המודלים המורדים של OpenAI פרצו גם לסביבת בדיקה של חברה נוספת
לפי דיווח ברויטרס, המודלים ניצלו סביבת בדיקה שהתארחה ב-Modal Labs והשתמשו בה כבסיס למתקפה על Hugging Face. בתוך יומיים וחצי הם ביצעו 17.6 אלף ניסיונות תקיפה, בקצב ובתחכום שמזכירים קבוצות האקרים מיומנות
המודלים המורדים של OpenAI פרצו גם לסביבת בדיקה שרצה על פלטפורמה של ספקית תשתית ה-AI הניו יורקית מודל לאבס (Modal Labs) – כך לפי דיווח של רויטרס. החשיפה מדגימה שהיקף הפעילות של המודלים, שברחו מסביבת הבדיקה שלהם ויצאו למסע תקיפות מקוון, היה גדול מכפי שהיה ידוע עד עתה.
בשבוע שעבר הודיעה OpenAI שמודלים מתקדמים שבחנה הצליחו לברוח מאזור הבדיקה שלהם, ולפרוץ למערכות המחשוב של פלטפורמת AI בשם Hugging Face. "המודלים זיהו שרשרת חולשות בסביבת המחקר של OpenAI ובתשתית של Hugging Face, על מנת למצוא פתרונות למבדק במאגר המידע של Hugging Face", מסרה החברה.
ביום שני פרסמה Hugging Face טיים ליין וניתוח טכני מפורטים של המתקפה. לדברי החברה, במשך יומיים וחצי פעל בתוך התשתית שלה סוכן AI אוטונומי, שמבוסס על שילוב בין מספר מודלים של OpenAI, שביצע מתקפה מקיפה נגדה. "מדובר על אלפי החלטות קטנות ואוטומטיות שבוצעו במהירות מכונה נגד מספר סביבות ונשלטו משרתים פומביים רגילים", נכתב בפוסט שפרסמה החברה. "השחזור הפורנזי שלנו זיהה 17.6 אלף מתקפות".
לפי הפוסט, אחרי שהסוכן ברח מסביבת הבדיקה הסגורה שלו ב-OpenAI, ובטרם חדר ל-Hugging Face, הוא ניצל חולשת אבטחה בסביבה חיצונית לבדיקת קוד שאורחה בתשתית של ספק צד-ג', והשתמש בה כבסיס המוצא שלו למתקפה העיקרית נגד Hugging Face.
החברה לא ציינה את שם הספק שעל התשתיות שלו פעלה סביבת הבדיקה, אך רויטרס חשפה שמדובר במודל לאבס. סמנכ"ל הטכנולוגיה של החברה, אקשט בובנה, אישר לסוכנות הידיעות את הפרטים, ואמר שהסוכן ניצל חולשה בקוד שכתב לקוח ואורח על בפלטפורמת החברה. "הלקוח פרסם יישום לא מאומת שאפשר לכל אחד באינטרנט להשתמש בסביבת הבדיקה שלהם להפעלת קוד", הוא אמר. "הפלטפורמה של מודל לא נפגעה בשום אופן".
החשיפה מעלה שהתחכום של הפריצה ל-Hugging Face היה מורכב מכפי שהיה ידוע עד עתה, וכלל שימוש במשאבים זמינים אחרים על מנת להוציא את המתקפה לפועל. מדובר בשיטת פעולה מהסוג שמאפיין קבוצות תקיפה מיומנות ביותר. הדבר מבהיר עד כמה יכולות הסייבר של המודלים המתקדמים כבר עכשיו שקולות ליכולותיהם של מומחי סייבר מובילים, בתוספת יכולתם לפעול באופן מהיר הרבה יותר. השלב הבא הוא מודלים שיכולת התחכום שלהם גבוהה משמעותית מזו של בני אדם.
OpenAI סירבה להגיב לפריצה ללקוח מודל, והפנתה את רויטרס לעדכון שפרסמה ביום שלישי שעבר, שבו מסרה שהסוכן המורד פרץ לארבעה חשבונות בארבעה שירותים שונים. "לא זיהינו כל פעילות נוספת ברמת החומרה או ההיקף ששיתפנו עם Hugging Face, שכללה פרצה ברמת הפלטפורמה", מסרה החברה.
