מחקר: סוכני AI כבר יכולים לבצע מתקפות סייבר בדולרים בודדים - אבל רק עם הכוונה אנושית
מחקר של Wiz ו-Irregular מצא שסוכני AI הצליחו לפרוץ 9 מתוך 10 אתגרים כאשר קיבלו יעד ממוקד, לעיתים בעלות של דולרים בודדים במקום עשרות אלפי דולרים. כאשר נדרשו לפעול באופן עצמאי ללא הכוונה, שיעורי ההצלחה ירדו באופן ניכר והעלות עלתה פי 2 עד 2.5
מחקר חדש של חברות הסייבר הישראליות Wiz ו-Irregular מציג תמונה ברורה של היכולות והגבולות של סוכני בינה מלאכותית בעולם הסייבר. כאשר הם מקבלים יעד ברור ומוגדר מבן אדם, כבר יש להם יכולת לבצע מתקפת סייבר בזול ובמהירות. כאשר הם נדרשים לפעול באופן עצמאי, לבחור מטרות, לתעדף ולשנות אסטרטגיה - היעילות שלהם יורדת באופן ניכר.
במסגרת המחקר נבנו עשרה מקרים המדמים פגיעויות, המבוססות על תקריות סייבר מוכרות מהשנים האחרונות, בהן חשיפת מאגרי מידע, כשלים בהגדרות ענן ותקלות אימות זהות. כדי לוודא שמדובר באתגרים ריאליים ולא בהדגמות תיאורטיות, כל אחד מהתרחישים נפתר מראש על ידי חוקר אנושי מנוסה. האתגרים נבדקו באמצעות סוכני AI שנדרשו לאתר פגיעות בסביבה נתונה ולתקוף אותה עד להשגת "דגל", ששימש כמדד הצלחה חד משמעי ונועד לצמצם רעש וטעויות פרשנות. התוצאות היו חד משמעיות: כאשר סוכן ה-AI קיבל יעד ממוקד, הוא הצליח לפרוץ 9 מתוך 10 אתגרים, כולל מתקפות רב-שלביות שאינן טריוויאליות, ולעיתים בעלות של דולרים בודדים לכל ניסיון.
במונחים של כלכלת תקיפה, המשמעות מטרידה: ברגע שנמצא נכס פגיע, הניסיון של סוכן AI לנצל אותו הופך למהיר וזול, גם אם לא כל ניסיון מצליח. העלות הנמוכה מאפשרת להריץ את אותו תרחיש שוב ושוב, עד להשגת פריצה. במקרים מסוימים, פעולת תקיפה שערכה הכלכלי נאמד בעשרות אלפי דולרים בוצעה בעלות של דולרים בודדים בלבד, ולעיתים אף בפחות מדולר.
התמונה השתנתה כאשר הסוכנים נדרשו לפעול במרחב רחב וללא יעד מוגדר מראש. בתרחישים אלה נרשמה ירידה חדה בשיעורי ההצלחה, לא כל האתגרים נפתרו, והעלות לכל הצלחה עלתה פי 2 עד 2.5. החוקרים מציינים כי הסוכנים נטו להתפזר בין כיווני תקיפה שונים מבלי להעמיק, או לחלופין להיתקע בכיוון אחד גם כאשר לא הניב תוצאות. בניגוד לחוקר אנושי, שמזהה יחסית מהר מבוי סתום ומבצע שינוי כיוון, הסוכן חזר שוב ושוב על וריאציות של אותה שיטה.
המסקנה העולה מהמחקר היא שסוכני AI כבר הרבה יותר מפותחים ממה שרבים מעריכים. הם בעלי יכולת תקיפה ממשית, מהירה וזולה, כל עוד הם מקבלים הכוונה ברורה. עם זאת, הם עדיין אינם תוקפים אוטונומיים במובן האנושי של המילה. האיום המרכזי כיום אינו AI שפועל לבדו, אלא השילוב בין אדם שמגדיר מטרות, מזהה כיוון ונותן הוראה, לבין AI שמבצע את העבודה במהירות ובדיוק. עבור ארגונים, המשמעות היא שהנחות העבודה בתחום ההגנה דורשות עדכון מתמיד, והמרוץ בין תוקפים למגנים נכנס לשלב חדש.
Irregular היא מעבדת אבטחה שעובדת עם מעבדות ה-AI המובילות כמו OpenAI, אנתרופיק וגוגל, וכן עם גופים ממשלתיים, לחשיפת סיכוני עומק במודלים מתקדמים לפני שהם מושקים לעולם. בספטמבר האחרון החברה דיווחה החברה על השלמת סבב סיד ו-A בהיקף כולל של 80 מיליון דולר מהקרנות סקויה ורדפוינט.
