סוכני הכאוס או כוח בנייה אינסופי?
חברות מתגאות בהטמעת סוכני AI אלא שבפועל הם עלולים לייצר נזק בלתי הפיך. אין ספק שהעתיד כולל AI וסוכנים, אלא שדווקא בגלל זה חשוב שיהיה גורם אנושי שמבקר אותם
ארגונים רבים בטוחים שסוכני בינה מלאכותית יצילו אותם ויעשו עבורם את כל העבודה. אבל מחקר ענק וחדש חושף שהם דווקא עלולים להחריב אותם מבפנים. הגיע הזמן להתעורר ולהסתכל למציאות בעיניים. מחקר בשם סוכני הכאוס שנערך על ידי חוקרים מסטנפורד, הרווארד ו-MIT חושף תמונה קצת מטרידה. הבעיה האמיתית היא לא העצמאות של המערכות האלו אלא הביטחון העצמי המופרז שלהן במצבים שהן פשוט לא מבינות. לפי המחקר, סוכני בינה מלאכותית פועלים בשיא הנחרצות בלי להבין את ההקשר העסקי או המסחרי. כבר היו מקרים שבהם סוכן מחק בסיס נתונים קריטי של חברה שלמה בתוך שניות רק בגלל שלא הבין נכון את ההקשר של הפקודה. הם מדליפים מידע רגיש והחלק הכי גרוע הוא שהם מכריזים על הצלחה גם כשהם בעצם שורפים את המערכת.
הכלים והסוכנים שרצים ברקע רעבים לקונטקסט העסקי בצורה מאוד ספציפית. שיטות קיימות כמו RAG שזה בעצם מנגנון ששולף מידע מתוך קבצים ומסמכים של הארגון ומזין אותו לבינה המלאכותית כדי שתתבסס עליו לא באמת פותרות את הבעיה. הפער האמיתי נמצא בסוג השאלה שאנחנו מפנים אליהם. בדיוק בגלל הצורך הזה ,צמחה בשנה האחרונה תעשייה גלובלית שלמה של משאבי ניהול context. המערכות החדשות האלו נועדו לגשר על הפער ולספק לבינה המלאכותית את ההבנה העסקית שכל כך חסרה לה כדי שלא תפעל "על עיוור" ולא תקבל החלטות הרסניות לארגון או ללקוחותיו.
טייס אוטומטי פשוט לא עובד
בואו נשים את זה על השולחן. ארגונים שלא ישלבו בינה מלאכותית פשוט לא ישרדו והם יישארו מאחור. במקביל ארגונים שייתנו למכונה לנוע על "טייס אוטומטי" לאורך כל הדרך לוקחים סיכון גדול מדי. המסקנה ברורה והיא ששום סוכן חכם לא יכול לייתר את שיקול הדעת האנושי. המודל היחיד שעובד ומונע אסונות הוא שילוב חכם שבו הסוכן מקבל הקשר מדויק ממשאבי הניהול ומציע פעולה אבל אדם אמיתי בודק ומאשר אותה לפני הביצוע.
ככה בדיוק ייראה עולם העבודה החדש. העתיד שייך לצוותים קטנים של בילדרים. אלו קבוצות שבהן בני האדם מביאים את החזון, היצירתיות והמצפן בזמן שסוכני הבינה המלאכותית מתפקדים ככוח בנייה אינסופי. השילוב המנצח בין בני אדם, סוכנים חכמים ומערכות שמספקות קונטקסט עסקי אמיתי הוא מה שיהפוך כל רעיון למציאות בקצב שעוד לא הכרנו.
יוסי הרשקו, סמנכ"ל טכנולוגיות גלובלי, דן אנד ברדסטריט
