OpenAI נתנה את האות, אבל סוכן אמיתי מחייב הרבה יותר מהייפ
השקת ה Agent Mode של OpenAI בסוף השבוע האחרון, לצד ההכרזות של גוגל על “חוויות סוכנות מהדור החדש” והשקת AgentCore של AWS, ממחישות פעם נוספת עד כמה חזון הסוכנים החכמים תופס תאוצה. עוזרים דיגיטליים שמזיזים פגישות, מזמינים נסיעות, מבצעים אינטגרציות, ואפילו “מדברים” זה עם זה כדי לבצע משימות - נשמע כמו העתיד שכבר כאן. אלא שההתלהבות הזו עלולה להטעות. אם לא נעצור לרגע ונשאל מה באמת עומד מאחורי המונח “סוכן”, יש סכנה שנמהר להכתיר תהליכי אוטומציה בסיסיים כפריצת דרך, ואז נגלה שההבטחה רחוקה מהמציאות.
לא כל תהליך אוטומטי הוא “סוכן”
כיום, כמעט כל כלי שמשלב בינה מלאכותית או שרשור של פקודות מתויג כ”סוכן”. אין הגדרה אחידה, מה שמאפשר לחברות לשווק יכולות מוגבלות כאילו הן מהפכניות. זו תופעה שראוי לכנות בשם "Agentwashing". כדי להימנע מהאכזבה הצפויה, עלינו להבחין בין סקריפטים פשוטים לסוכנים בעלי אוטונומיה אמיתית, להבין עד כמה הם באמת עצמאיים, מה גבולות היכולת שלהם, ואילו מנגנוני בקרה והגנה עומדים לרשותם.
הבעיה האמיתית: אמינות
הבסיס לרוב הסוכנים כיום הוא מודלי שפה גדולים (LLMs), מודלים שמסוגלים להרשים, אך גם לטעות. ולפעמים, כמו במקרה של Cursor (עוזר תכנות מבוסס AI), הם אף עלולים להמציא מדיניות שלא קיימת. במקרה ההוא, משתמשים רבים דיווחו כי קיבלו מענה מהתמיכה האוטומטית שלפיו אסור להשתמש בתוכנה ביותר ממכשיר אחד - למרות שמעולם לא הייתה מדיניות כזו. לא מדובר בתקלה בתשתית, אלא בבעיה מהותית בהתנהגות המודל, שפשוט “המציא” את ההגבלה. זה אולי נשמע שולי, אבל כשמערכת תומכת מקבלת החלטות בשם הארגון, התוצאה עלולה להיות הטעיה של לקוחות, פגיעה באמון, ולעיתים גם ביטול מנויים והפסדים עסקיים עצומים.
בעולמות הארגוניים, טעויות כאלה עלולות לגרום לנזקים כבדים. אנחנו חייבים להפסיק להתייחס ל־LLMs כמוצר גמור, ולהתחיל לבנות סביבם מערכות שלמות: כאלה שיודעות להתמודד עם אי־ודאות, לעקוב אחרי התשובות, לנהל עלויות, ולשלב מנגנוני הגנה שיבטיחו בטיחות ודיוק. מערכות כאלה צריכות לוודא שהתשובה שניתנת מתאימה לדרישות המשתמש, עומדת במדיניות הארגון, שומרת על פרטיותו, ובעיקר, ניתנת לאמון.
AWS השיקה לאחרונה את AgentCore - תשתית טכנולוגית שמטרתה לאפשר בנייה של סוכנים מותאמים לארגונים: עם זיכרון ארוך טווח, ניהול זהויות, כלים למעקב והתבוננות (observability), ויכולת לשלב בין יכולות שפה לבין פעולות אמיתיות. זהו צעד חשוב בכיוון הנכון, אבל הוא גם מדגיש עד כמה רחוקה הדרך לפתרונות אוטונומיים שאפשר לסמוך עליהם ללא פיקוח.
פרוטוקולים לבד לא מספיקים
גוגל מנסה להוביל את פרוטוקול Agent-to-Agent, או בקיצור - A2A, שפה אחידה שתאפשר לסוכנים לתקשר. הרעיון פשוט: אם סוכנים יוכלו “לדבר” באותה שפה, הם יוכלו לחלק ביניהם משימות, לשתף תובנות ולהרכיב פתרונות מורכבים בצורה מודולרית. אבל השאלה היא לא רק איך מדברים, אלא מה באמת מבינים. בלי מילון מושגים משותף, הקשר ברור, ותיאום תמריצים, שיתוף פעולה בין סוכנים עלול להישבר.
וזה עוד לפני שדיברנו על אינטרסים סותרים: למשל, אם הסוכן שלי מתכנן טיול ומבקש הצעות מחיר מהסוכן שלך, שמייצג סוכנות תיירות שמוטה לטובת חברת תעופה מסוימת, אני כנראה לא אקבל את ההצעה הכי משתלמת. בלי חוזים, מנגנוני תמרוץ או איזון אינטרסים, קשה להניח ששיתוף פעולה כזה יעבוד היטב בעולם האמיתי.
הפוטנציאל עצום - אבל רק אם נתקדם בזהירות
אם נמשיך לטשטש הגדרות, להעלים את האתגרים ולרדוף אחרי הבאזז, המונח “סוכן” יישחק עוד לפני שהטכנולוגיה תבשיל. כבר עכשיו יש מנהלי טכנולוגיה שמגלגלים עיניים כשהם שומעים אותו. זו נורת אזהרה. אנחנו לא רוצים שההתלהבות תטשטש את האתגרים, רק כדי לגלות אותם מאוחר מדי, כשמשתמשים ומפתחים כבר התאכזבו.
אבל אלו לא בעיות בלתי פתירות: אפשר לפתח שפות משותפות, לשפר את הפרוטוקולים, ללמד את הסוכנים לנהל משא ומתן ולשתף פעולה בצורה חכמה. הפוטנציאל אמיתי ועל כך אין עוררין, אבל רק אם נבנה את המערכות בתבונה, נגדיר היטב את המושגים, ונשמור על ציפיות ריאליות. אם נעשה זאת - סוכנים לא יהיו טרנד חולף, אלא התשתית החדשה של איך אנחנו פועלים בעולם הדיגיטלי.
פרופ’ יואב שוהם הוא מנכ”ל שותף ומייסד שותף של AI21, ויו”ר הוועדה המדעית המייעצת לתכנית הבינה המלאכותית בישראל
