האשליה האופטית של האלגוריתם: למה ה-AI עלול להטעות את העסק שלכם?
מי שולט במספרים: בעל העסק, רואה החשבון - או אלגוריתם שלא מבין את החוק הישראלי? על הסכנות שבביטחון מופרז בטכנולוגיה
בשנה האחרונה אני פוגש יותר ויותר בעלי עסקים שגאים להראות לי את הדשבורדים המרהיבים שה-AI ייצר להם. "תראה יורם", הם אומרים, "התוכנה אומרת שאני ברווח של 30% ושכדאי לי להשקיע עוד מיליון שקל בציוד". זה נראה מצוין, זה מרגיש חדשני, וזה מסוכן מאוד.
הבעיה היא "אפקט הביטחון המופרז". בעלי עסקים נוטים לסמוך על פלט של מחשב כאל תורה מסיני, תוך שהם שוכחים שה-AI, חכמה ככל שתהיה, פועלת בוואקום. היא לא מכירה את תיקוני החקיקה האחרונים של הכנסת, היא לא מבינה את מורכבות ההכרה בהוצאות בישראל, והיא בטח לא רואה את התמונה המקרו-כלכלית המשתנה של המזרח התיכון.
כשבעל עסק מחליף את הדיאלוג עם רואה החשבון שלו בשאילתה ב-ChatGPT, הוא מאבד את הבלם האחרון שלו. רואה חשבון טוב הוא לא רק "סופר מספרים", הוא המבוגר האחראי שמספק קונטקסט. הוא יודע להגיד: "המספרים ב-AI נכונים טכנית, אבל האסטרטגיה הזו תפיל אותך בתזרים בעוד שלושה חודשים בגלל חבות מס שפספסת".
אל תטעו, אני בעד טכנולוגיה. במשרדנו אנחנו רותמים אותה לכל תהליך. אבל המכונה היא כלי עזר, לא מקבל ההחלטות. מי שנותן לאלגוריתם להוביל את הספינה בלי פיקוח אנושי מקצועי, עלול לגלות מאוחר מדי שהמספרים היפים על המסך לא פוגשים את המציאות בבנק או בביקורת של מס הכנסה. ה-AI ייתן לכם דאטה; רואה החשבון ייתן לכם שקט נפשי.
