המערב הפרוע של עולם האייג'נטים: אתם יודעים מי משוטט חופשי בארגון שלכם?
דמיינו שאתם פותחים את הדלת לאורח בביתכם, אך במקום להישאר בסלון, הוא מתחיל להסתובב חופשי, פותח מגירות ומציץ בכל פינה. נשמע לא נעים? כשמדובר באייג'נט דיגיטלי בארגון שלכם, המצב הופך להיות הרבה יותר בעייתי.
בעידן שבו בינה מלאכותית ג'נרטיבית משנה את פני העבודה, אנחנו עדים לעלייה חדה של אייג'נטים אוטונומיים בארגונים. אלו לא רק כלים פסיביים שמייצרים תוכן או מסכמים מידע, אנחנו מדברים על ישויות דיגיטליות בעלות יכולת פעולה עצמאית בתוך המערכות הארגוניות, כמו GitHub Copilot, Salesforce AI, Fireflies.ai ועוד שלל אפליקציות שכל מפתח קטן מציע כיום.
איך זה בדיוק קורה?
התהליך נראה תמים לחלוטין. ניתן דוגמה פשוטה, אייג'נט מצטרף לפגישת הזום שלכם כמו עובד רגיל נוסף, נקרא לו "פרד". הוא מקליט, מתמלל ומסכם את הפגישה בעזרת יכולות AI מתקדמות, ניגש למקורות מידע ארגוניים שונים, שולף מידע ומייצר משימות למשתמש, לעצמו ולאייג'נטים האחרים. פרד לא צריך זיהוי מתקדם או הרשאות מיוחדות. הוא מקבל הרשאה כברירת מחדל של המשתמש שהפעיל אותו.
יותר גרוע מזה: האייג'נט מצטרף אוטומטית לכל פגישה שמופיעה ביומן שלכם ושולח את הקישור לכל משתתפי הפגישה ללא בקרת הרשאות מתאימה. כלומר, כל מי שמקבל את המייל יכול להאזין להקלטה המלאה שהוא ביצע, לקרוא את התמלול ואפילו לראות את המשימות שנוצרו בהתבססות על מידע הארגוני.
הסכנה האמיתית: מידע חשוף שאתם לא יכולים לעקוב אחריו
כשאנחנו מדברים על "מגירות פתוחות" בהקשר הדיגיטלי, אנחנו מתכוונים לקוד מקור, נתוני לקוחות, מידע פיננסי, תכניות עסקיות אסטרטגיות ועוד. האייג'נטים הללו, בזכות שתי הטכנולוגיות החדשות המובילות היום שנקראת MCP (Model Context Protocol) של Anthropic וה-A2A Protocol של גוגל, יכולים לתקשר אחד עם השני וליצור אורקסטרציה שלמה של פעילויות אקטיביות חוצות ארגון שנכון להיום מוגבלות בפועל ברמה מינימלית בלבד ולא מתועדות כראוי.
הבעיה המרכזית היא שמנהלים בארגון פשוט לא יודעים מה כבר יש להם במערכת בהקשר של Agentic AI או לחלופין, מאשרים להוריד ולהשתמש באייג׳נטים צד שלישי מבלי להבין לעומק את השלכות העבודה שלהם על הארגון והדרכים להגביל ולנטר את העשייה שלהם. כמובן שתקיפות סייבר מודרניות כבר מתאימות את עצמן לחולשות הללו - תוקפים, מכל המינים והסוגים כולל גורמים עוינים כמו איראן, מכירים את חבילות קוד האייג'נטים הרשמיות שחברות כמו Cursor, Loveable ,GitHub ,Salesforce, Base44 ורבים אחרים מספקים, או מאות האחרים הלא רשמיים שנמצאים בשימוש רחב ומייצרים את התקיפות שלהם בהתאם.
הפתרון: מודעות ורגולציה חכמה
המטרה שלנו היא לא לחסום את הקידמה הטכנולוגית, אלא ליצור בקרה וניהול עם חיזוק ההשקפה של אבטחת מידע. זה מתחיל במודעות של ההנהלה, עובר דרך הגופים הדיגיטליים והעסקיים, ומגיע עד התפעול וה-IT של הארגון.
חברות חכמות צריכות ליישם מדיניות עבודה ברורה עם אייג'נטים ברמת הארגון. זה כולל מדיניות חכמה לאישור מראש של אייג'נטים, ה-Workflow שלהם והמודלים מולם הם עובדים, הגבלת הרשאות האייג'נטים לגישה למידע ומערכות ארגוניות על בסיס עקרון הצורך לדעת (וכן, גם לאייג'נטים עקרון זה רלוונטי וגם ישים), והקמת מנגנוני פיקוח ובקרה מתמידים. קיימים היום בשוק מגוון כלים אפקטיביים שמאפשרים זאת בצורה טובה.
הנזק הכלכלי
במידה וארגון יספוג פריצה דרך אייג'נט, הנזק תלוי במיקום הפריצה ובסוג המידע שנחשף. בארגונים פיננסיים, למשל, כשאייג'נטים עוסקים בסליקות אשראי ופעולות בנקאיות, אנחנו מדברים על חשיפה עצומה ונזק כלכלי שעלול להגיע למיליוני שקלים. הקושי הגדול ביותר הוא שכאשר פריצה מתרחשת, קשה מאוד לזהות, לחקור ולהתאושש ממנה בגלל חוסר התיעוד של פעולות האייגנ'טים.
מה עושים עם המידע הזה?
הטכנולוגיה הקדימה את הנחיות אבטחת המידע, וזה הזמן להדביק את הפער. חברות חכמות כבר מתחילות לפתח ולהטמיע טכנולוגיות חדשות שמתמקדות ב"אייג'נט סקיוריטי" - מערכות זיהוי חכמות ומדויקות שיכולות לפקח על פעילות האייג'נטים בזמן אמת. חשוב לפעול בהקדם, לפני ש"המערב הפרוע" של האייג'נטים יהפוך לבלתי נשלט לחלוטין, ארגונים חכמים צריכים ליצור סדר עם כללים ברורים, פיקוח הולם, ומערכות אבטחה מתקדמות שיאפשרו לנו ליהנות מהיתרונות העצומים של הטכנולוגיה, תוך שמירה על האינטרסים הביטחוניים והעסקיים שלנו.
דימה טאטור הוא ראש חטיבת סייבר סקיוריטי בחברת Commit
