משחקי הכס של ענף הסייבר: כשאנתרופיק ו-OpenAI נכנסות לזירה
זה כבר לא סוד שמודלי הדגל של מעבדות הבינה המלאכותית יודעים למצוא פגיעויות בקוד. זה קורה מתחת לרדאר כבר תקופה ארוכה, כמעט כתוצר לוואי של יכולות התכנות שלהם. יותר מפעם אחת מצאתי את עצמי פשוט מבקש: ״תמצא לי חולשות״. מכאן הסוכן לוקח פיקוד. הוא עובר קובץ אחרי קובץ, מסמן בדיקות שחסרות, מצביע על אימות נתונים רופף, ומדליק נורה אדומה במקום שאף אחד לא טרח להאיר קודם. לפעמים זה מרגיש כמו חוקר אבטחה ותיק שיושב לך על הכתף. וכשזה עובד, זה אפילו טוב יותר.
אבל בשבוע האחרון, עם השקת כלי איתור החולשות של אנתרופיק וההתקדמות של פרויקט ארדוורק ב-OpenAI, המלחמה הקרה הזו יצאה לאור והרעידה את הבורסה. מניות הסייבר הגיבו באינסטינקט כמעט קמאי לירידות, והשוק הבין את הרמז: ענקיות הבינה המלאכותית כבר לא מסתפקות בכתיבת מיילים או ביצירת תמונות; הן מסמנות את הטריטוריה של חוקרי האבטחה ומערערות על המודלים העסקיים של חברות הסייבר המסורתיות.
אבל כדאי להישאר עם רגליים על הקרקע: זה לא קסם. לצד היכולות המרשימות, יש התרעות שווא. יש ממצאים מיותרים וחולשות קריטיות שהמודל פשוט מפספס כי הוא לא "רואה" את התמונה המלאה. הבינה המלאכותית אינה מחליפה חשיבה אנושית; היא לא מבינה באמת הקשר עסקי, אילוצים ארגוניים או ארכיטקטורה מורכבת שנבנתה לאורך שנים וכוללת טכנולוגיות ותיקות ששום מודל שפה לא התאמן עליהן מספיק.
ויש גם צד פחות נוח: המודל שמאתר את הפרצה הוא לעיתים אותו המודל שיכניס אותה לקוד שהוא עצמו כותב. באותה קלות שבה הוא מצביע על אימות חסר, הוא עלול "לפתור" תקלת הרשאות על ידי פתיחת גישה מלאה לבסיס הנתונים רק כדי שהקוד "ירוץ". ראינו כבר מקרים שבהם כדי לעקוף תקלה במסד הנתונים או במנגנוני אבטחה ברמת השורה, הפתרון שהוצע היה ביטול הגבלות במקום תיקון שורש הבעיה. זה לא זדון, זו "אופטימיזציה מקומית" - המודל מנסה לגרום לשגיאה המיידית להיעלם, לא בהכרח לשמור על עקרון המידור או על שרידות המערכת לטווח ארוך.
התמונה הזו לא מוגבלת לכלי אחד. המאמצים של השחקניות הגדולות הופכים את היכולת הזו לסטנדרט תעשייתי חדש. ובכל זאת, גם עם המורכבות הזאת, הערך ברור. המודל מקצר תהליכים של שבועות לימים. הוא מאיר נקודות עיוורות שנוצרות עקב עייפות או לחץ של זמנים. הוא מעלה את רף הביקורת עוד לפני שחוקר אבטחה אנושי נכנס לתמונה, ובכך הוא הופך את האבטחה לנגישה יותר גם לצוותי פיתוח קטנים. אבל בדיוק משום כך, הוא חייב להישאר כלי בידי אדם, לא תחליף לשיקול דעת.
לכן ההשקות האחרונות הן לא קפיצה טכנולוגית, אלא הצהרת כוונות פומבית. שתי המעבדות הגדולות בעולם מאותתות ששוק הסייבר מעניין אותן, ולחברות האבטחה המסורתיות אין כרגע יתרון תחרותי בשכבת המודל עצמו. אם המעבדות יחליטו לאמן מודלים ייעודיים למחקר אבטחה, המבוססים על מאגרי נתונים של פריצות ותיקונים בזמן אמת, הן יוכלו להתקדם מהר מאוד. השוק הבין את זה, והתגובה הייתה אינסטינקטיבית: עצם הכניסה הרשמית של מעבדות הבינה המלאכותית לזירה כבר משנה את חוקי המשחק וקובעת רף ציפיות חדש מכל מוצר אבטחה בשוק.
במידה מסוימת, זה נכון. חברות שיבססו את כל הערך שלהן רק על סריקת קוד או גילוי חולשות נקודתי ימצאו את עצמן בבעיה קשה מול מודלים שהופכים את הפעולה הזו למוצר בסיסי וזמין. הכיוון הזה נראה סביר, אפילו מתבקש, כחלק מהתפתחות הבינה המלאכותית כ"סוכן" שמבצע משימות מקצה לקצה.
ובכל זאת, אבטחה ארגונית מעולם לא הייתה רק גילוי חולשות. היא תיעדוף- לדעת מה לתקן עכשיו ומה יכול לחכות; היא שילוב עמוק בתהליכי הפיתוח וההפצה; היא תאימות לרגולציה, ניהול סיכונים, ואחריות משפטית. גם אם מלאכת הגילוי תהפוך לזולה ומהירה בזכות המודלים, השכבות שמעליה לא יתאדו. הן ישתנו, יהפכו למורכבות יותר, וידרשו מומחיות אנושית גבוהה מאי פעם כדי לנהל את הכלים החדשים הללו. שם - לפחות בינתיים - המשחק עדיין רחוק מלהיות מוכרע.
רון מסאס הוא מנהל מחקר חולשות בחברת אימפרבה-תאלס
