דיווח: עוד סוכני AI שבחנה OpenAI ברחו מסביבת הבדיקה הסגורה
חקירה פנימית שפתחה החברה בעקבות התקרית עם Hugging Face ומודל לאבס העלתה מקרים נוספים - הפעם מוגבלים יותר בהיקפם, וככל הנראה בתוך הרשת הפנימית של החברה; מומחי בטיחות: "התעשייה לא לוקחת אחריות על שמירת הכלים בטוחים"
OpenAI גילתה מקרים נוספים שבהם סוכני AI שלה השתחררו מסביבת הבדיקה הסגורה שלהם – כך לפי דיווח של רויטרס.
לפני כשבוע וחצי דיווחה OpenAI שמודלים מתקדמים שבחנה החברה הצליחו לברוח מאזור הבדיקה שלהם, ולפרוץ למערכות המחשוב של פלטפורמת בשם Hugging Face. בשבוע שעבר עדכנה החברה שהמודלים פרצו גם לסביבת בדיקה שרצה על פלטפורמה של ספקית תשתית ה-AI הניו יורקית מודל לאבס. בסוף השבוע, המתחרה אנתרופיק עדכנה שגם מודלים שלה ברחו מסביבת המבדק הסגורה שלהם, ופרצו למערכות מחשוב של שלוש חברות שונות.
עתה, מדווחת רויטרס שחקירה פנימית שבה פתחה OpenAI בעקבות התקרית הראשונית העלתה תקריות נוספות שבהן סוכנים אוטונומיים ברחו מסביבת בדיקה סגורה. עם זאת, לדברי מקור, מקרים אלו מוגבלים יותר בהיקפים וככל הנראה הסוכנים לא עזבו את הרשת הפנימית של OpenAI. לא ברור בכמה מקרים מדובר, מתי הם התרחשו או הנסיבות שבהן ברחו הסוכנים. שלוש מקורות אמרו ש-OpenAI ומומחים חיצוניים בוחנים רשומות פעילות מהחודשים האחרונים על מנת להבין מה התרחש.
מומחי בטיחות AI אמרו שהמקרים העדכניים מציגים את חברות ה-AI המובילות ככאלו שיכולות פיתוח המודלים המתקדמים שלהן מתקדמות משמעותית מיכולתן לשמור את המודלים תחת שליטה. "יש לנו תעשייה שלמה שבה האנשים שמתכננים, מפתחים ומשיקים את הכלים האלו לא לוקחים על עצמם את האחריות לשמור אותם בטוחים", אמר לרויטרס ד"ר מוריס קיודו, מתמטיקאי במרכז לחקר איומים קיומיים של אוניברסיטת קיימברידג'. "העובדה שאף אחת מהחברות לא זיהתה את בריחת המודלים בזמן אמת מדגישה את החששות נראה שהן בכלל לא הסתכלו".
