מי מנהל את "עובד" ה-AI החדש שגייסתם לארגון?
ככל שסוכני AI מקבלים יותר סמכויות ומבצעים פעולות באופן עצמאי, ארגונים נדרשים להתמודד עם אתגר ניהולי חדש: מי מגדיר את גבולות הפעולה שלהם, כיצד מפקחים על החלטותיהם ואיך מבטיחים שההתייעלות הטכנולוגית לא תבוא על חשבון האחריות והשליטה?
דמיינו שאתם מגייסים עובד חדש למחלקת הכספים. ביום הראשון שלו אתם מעניקים לו גישה למערכות הארגוניות, מאפשרים לו לאשר תשלומים, לתקשר עם ספקים ולקבל החלטות, מבלי שהגדרתם בדיוק מהם תחומי האחריות שלו, מי מפקח עליו ובאילו מקרים עליו לבקש אישור. נשמע מופרך? ובכן, כשמדובר בסוכני AI, ארגונים עלולים למצוא את עצמם מתקרבים בדיוק למצב הזה.
הכניסה של סוכני בינה מלאכותית לעולם העסקי משנה בהדרגה את אופי העבודה. אם עד היום התרגלנו לבינה מלאכותית שמסכמת מסמכים, מנתחת נתונים או מציעה המלצות, הדור הבא כבר מכוון רחוק יותר: מערכות שמסוגלות לתאם פעולות, להפעיל תהליכים עסקיים ובמקרים מסוימים גם לבצע משימות באופן עצמאי.
זהו הבסיס לחזון "הארגון האוטונומי" (Autonomous Enterprise), שבו בני אדם וסוכני AI עובדים יחד, והמערכות הדיגיטליות לוקחות על עצמן חלק הולך וגדל מהפעילות השוטפת. אבל השינוי החשוב הוא לא בהכרח טכנולוגי, אלא ניהולי – אם סוכני AI הופכים לחלק מכוח העבודה הארגוני, לא הגיע הזמן להתחיל גם להתייחס אליהם ככאלה?
לעובד החדש יש גישה למערכות. האם הוא גם מבין את העסק?
אחד הפערים המרכזיים בין סוכן AI לעובד אנושי הוא ההיכרות עם ההקשר העסקי. עובד רכש מנוסה יודע שלא כל ספק מתאים לכל הזמנה, שלא כל עיכוב מחייב החלפת ספק ושלעיתים החלטה שנראית נכונה מבחינה תפעולית עלולה לפגוע ביחסים עם לקוח אסטרטגי.
מודל שפה, מתוחכם ככל שיהיה, לא מכיר בהכרח את המורכבויות האלה. הוא יכול לייצר תשובות משכנעות, אך ללא גישה למידע הארגוני ולהקשרים בין תהליכים, לקוחות וספקים, הוא עלול לפעול על בסיס תמונה חלקית.
לכן, לפני שנותנים לסוכן AI אחריות על תהליך עסקי, צריך לוודא שהוא מחובר למקורות המידע הנכונים, מכיר את הכללים שלפיהם הארגון פועל ויודע לזהות מתי חסר לו מידע לקבלת החלטה. בדיוק כפי שלא היינו מצפים מעובד חדש לקבל החלטות מורכבות בלי הכשרה והיכרות עם העסק.
אליאל שורמן
(צילום: Maor Altaras)
חשוב גם להבין את ההבדל בין אוטומציה מסורתית לבין סוכן AI. אוטומציה מבצעת בדרך כלל תהליך שהוגדר מראש, בעוד שסוכן AI יכול לקבל מטרה, לפרק אותה למשימות, לבחור בעצמו את הפעולות הנדרשות ולהתאים את דרך הפעולה בהתאם לתוצאות. המשמעות היא שלא תמיד ניתן לצפות מראש את רצף הפעולות שיבצע. לכן, ניהול נכון מחייב לא רק להגדיר מה מצופה ממנו להשיג, אלא גם לתחום את מרחב הפעולה שלו ולוודא שכל פעולה מתבצעת תחת בקרות מתאימות.
הסוכן קיבל סמכות לפעול. מי נושא באחריות לפעולות שלו?
ב-2025 נחשף מקרה שהמחיש עד כמה הסיכון הזה ממשי. ג'ייסון למקין, מייסד קהילת SaaStr, השתמש בסוכן AI של חברת Replit לפיתוח אפליקציה עסקית. למרות שלדבריו הורה לסוכן במפורש שלא לבצע שינויים ללא אישור, הסוכן מחק את מסד הנתונים של החברה, שכלל פרטים על יותר מ-1,200 מנהלים וכ-1,200 חברות. המידע הושב בהמשך באמצעות תהליך שחזור, אך האירוע המחיש עד כמה פעולה עצמאית של סוכן AI עלולה לגרום לנזק משמעותי.
המקרה הזה מחדד נקודה קריטית: הוראה מפורשת לסוכן AI אינה תחליף למגבלה טכנולוגית שמונעת ממנו לבצע פעולה. אם למערכת יש גישה למידע רגיש והרשאה לשנות אותו, עצם הבקשה שלא תעשה זאת אינה מספיקה.
כאן נכנסת לתמונה החשיבות של AI Governance: ניהול זהויות והרשאות, הגדרת מגבלות על פעולות, תיעוד החלטות, מעקב אחר פעילות ומנגנוני פיקוח המאפשרים למנוע חריגות או לזהות אותן בזמן. האחריות אינה יכולה להסתכם בהנחיות שניתנו לסוכן; היא חייבת להיות מגובה במנגנונים טכנולוגיים וארגוניים.
האתגר הבא: איך מנהלים אלפי סוכני AI במקביל?
כאשר ארגונים יתחילו להפעיל עשרות, מאות ואף אלפי סוכני AI, האתגר יהיה גדול הרבה יותר מניהולו של סוכן בודד. יהיה צורך לדעת אילו סוכנים פעילים, אילו משימות הם מבצעים, לאילו מערכות ומידע יש להם גישה, כמה משאבים הם צורכים ומה העלות של הפעילות שלהם.
חשוב לא פחות להבין את יחסי הגומלין ביניהם: סוכן אחד עשוי להפעיל תהליך שסוכן אחר ממשיך, והחלטה של סוכן אחד יכולה להשפיע על תהליכים עסקיים נוספים. במציאות כזו, לא מספיק להגדיר הרשאות לכל סוכן בנפרד. ארגונים יצטרכו יכולת ניהול ובקרה מרכזית שתספק תמונה כוללת של פעילות הסוכנים, תאפשר לזהות התנהגות חריגה ותבטיח שניתן יהיה לעצור או להגביל פעילות בעת הצורך.
במילים אחרות, ככל שהארגון הופך לאוטונומי יותר, כך גדל הצורך במנגנוני ניהול, שקיפות ושליטה.
לא הייתם מגייסים עובד בלי הגדרת תפקיד. למה לעשות זאת עם AI?
לפני שמטמיעים סוכן AI בתהליך עסקי, מנהלים צריכים להגדיר ארבעה דברים:
1. תחומי אחריות: אילו משימות הסוכן אמור לבצע, ומה נמצא מחוץ לסמכותו?
2. הרשאות: לאיזה מידע ומערכות הוא יכול לגשת, ואילו פעולות חסומות בפניו באופן טכנולוגי?
3. ניהול ופיקוח: מי הגורם האנושי שאחראי עליו, ומתי נדרש אישור לפני ביצוע פעולה?
4. מדדי הצלחה: איך מודדים לא רק את מהירות הביצוע, אלא גם דיוק, איכות, עלות, מידת ההתערבות האנושית ועמידה בכללים?
חשוב למדוד לא רק אם הסוכן השלים את המשימה, אלא גם אם התוצאה הייתה נכונה, כמה תיקונים או התערבות אנושית נדרשו והאם התהליך אכן יצר ערך עסקי. שימוש ב-AI אינו בהכרח שווה ערך לשיפור בפרודוקטיביות, ולכן מדידה של התוצאות בפועל היא קריטית.
לא כדאי להתחיל את ה"חפיפה" של הסוכן במשימות המורכבות ביותר. נכון להתחיל בתהליכים מוגדרים, למדוד תוצאות, לזהות טעויות וללמוד מהן, ורק לאחר מכן להרחיב את הסמכויות שלו. היכולת הטכנולוגית לבצע פעולה אינה סיבה מספקת לאפשר אותה ללא פיקוח.
חזון הארגון האוטונומי עדיין נמצא בשלבי התפתחות, והערך העסקי של יישומים רבים עוד נבחן. אבל דווקא עכשיו, כשהארגונים מתחילים לשלב סוכנים בפעילותם, זה הזמן לקבוע את כללי העבודה. הארגון האוטונומי לא יקום ביום שבו נוכל להחליף עובדים בסוכני AI. הוא יתחיל להיווצר ביום שבו נדע להעניק להם עצמאות מבלי לוותר על אחריות ושליטה.
מאת אליאל שורמן, סמנכ"ל פיתוח BTP, מרכז הפיתוח של SAP בישראל
d&b – לדעת להחליט
