אותו באג, פעם שלישית: מודל ה-AI של מטא ברח מסביבת הבדיקה של אירגיולר הישראלית
מטא חשפה כי תקלה בסביבת המבדק של חברת הסייבר הישראלית אירגיולר אפשרה למודל Muse Spark 1.1 לנצל חולשת אבטחה ולגשת למערכת של חברה חיצונית אחרי תקריות דומות אצל אנתרופיק ו-OpenAI
תקלה במערכת הבדיקה של חברת הסייבר הישראלית אירגיולר (Irregular) אפשרה גם למודל AI של מטא להשתחרר מסביבת המבדק שלו ולפרוץ למערכות המחשוב של חברה אחרת – כך הודיעה אתמול (ד') ענקית הטק. מדובר באותה תקלה שעמדה מאחורי תקריות דומות שעליהן דיווחו בימים האחרונים אנתרופיק ו-OpenAI.
מאז ש-OpenAI חשפה לפני כשבועיים שמודלים מתקדמים שבחנה הצליחו לברוח מאזור הבדיקה שלהם, ולפרוץ למערכות המחשוב של פלטפורמת Hugging Face, התגלו מקרים דומים נוספים.
שניים מהם היו קשורים לסביבת המבדק שהפעילה אירגיולר, שבגלל טעות הגדרה אפשרה גישה לאינטרנט הפתוח: בראשונה, מודלים של אנתרופיק ברחו מסביבת המבדק הסגורה שלהם ופרצו למערכות מחשוב של שלוש חברות שונות. בשנייה, מודלים של OpenAI יצאו מסביבת הבדיקה שלהם ותקפו מטרות באינטרנט הפתוח.
עתה חושפת מטא תקרית שלישית שנבעה מאותה טעות הגדרה בסביבה של אירגיולר, במסגרתה מודל Muse Spark 1.1 השתחרר מסביבת הבדיקה שלו ופרץ למערכות של חברה צד-ג'. "טעות הגדרה של אירגיולר, חברת בחינה עצמאית שמטא עובדת אתה, אפשרה בטעות לאחד המודלים שלנו לגשת לאינטרנט בזמן ההערכה", נמסר ממטא. "המודל ניצל חולשת אבטחה בשירות צד-ג', באופן דומה לזה שדווח עליו עם חברות אחרות".
מטא גילתה את התקרית רק לאחר שאירגיולר עדכנה אותה בנושא. היא חוקרת אותה ומתעתדת לפרסם דוח מלא עם סיום החקירה. מאירגיולר נמסר בתגובה לכלכליסט: "התקרית המדוברת היא בדיוק אותה סוגיה הקשורה לסביבת הבדיקה, שנחשפה כבר על ידי אנתרופיק בשבוע שעבר, ומאז תוקנה. נכון לרגע זה, אין סוגיות פתוחות נוספות. החברה מגבשת מסמך מקצועי (White Paper) שיתווה את הנהלים והסטנדרטים המומלצים לשמירה על מודלים בתוך גבולות סביבת הבדיקה ולהרצה מאובטחת של הערכות סייבר - אתגר משמעותי איתו מתמודדת תעשיית ה-AI בתקופה זו".
