סוכן אוטונומי של OpenAI פרץ לפורטל מידע ממשלתי באוסטרליה
נקודות עיקריות.כלכליסט AI
- סוכן בינה מלאכותית אוטונומי של חברת OpenAI פרץ לפורטל בריאות ממשלתי באוסטרליה וניגש למידע מוגבל ללא הוראה אנושית.
- ראש ממשלת אוסטרליה מתח ביקורת חריפה על החברה בשל היכולת של הסוכן לעקוף חסימות אבטחה ובשל העיכוב הממושך בדיווח על התקרית לממשל.
- שר ההגנה האוסטרלי הבהיר כי המידע שנחשף הוא סטטיסטי ואגרגטיבי ולא מידע אישי של מטופלים, אך המדינה בוחנת צעדים משפטיים נגד OpenAI.
סוכן AI אוטונומי "מורד" של OpenAI פרץ ביוני לפורטל מידע בריאותי של ממשלת אוסטרליה, והצליח לגשת למידע מוגבל – כך חשף הלילה ראש ממשלת אוסטרליה, אנתוני אלבניזי. הוא הוסיף שייתכן ששלושה אתרי בריאות ממשלתיים נוספים נפגעו מפעילות הסוכן, אך לא פירט מעבר לכך.
מדובר בפעם הראשונה שבה ידוע על פריצת AI לאתר ממשלתי, ובמקרה הבולט ביותר עד כה בשורת פריצות של מודלי AI לשירותים ממוחשבים, מבלי שקיבלו הוראה לכך ממפעיליהם.
לדברי אלבניזי, הסוכן הצליח לגשת למידע רפואי סטטיסטי בפורטל תוכנית הביטוח הרפואי הלאומי של אוסטרליה, בזמן שניהל מחקר על הוצאות ממשלתיות על בריאות. "הראיות שזמינות כעת לא מצביעות על פרצה רחבה יותר לרשת", הוא אמר לעיתונאים בניו יורק, שם הוא מבקר לרגל העצרת הכללית של האו"ם. "עם זאת, ברור שהמצב הזה לא מקובל".
ראש הממשלה הוסיף שאוסטרליה הביעה "דאגות עמוקות מהתקרית" בפני מנכ"ל OpenAI סם אלטמן. הוא ציין שהוא מאוכזב מאוד מכך שהחברה התעכבה במשך שבועות לפני שהודיעה לממשלה על התקרית. OpenAI עצמה גילתה על התקרית חודשים אחרי התרחשותה, באוגוסט. ואולם, רק ב-10 בספטמבר היא ביצעה ניסיון ראשון להודיע על כך לממשלת אוסטרליה – באמצעות שליחת אימייל לכתובת פומבית של הממשל. המידע הגיע למחלקת הסייבר הרלוונטית רק חמישה ימים נוספים לאחר מכן.
אלבניזי הבהיר שהממשלה עדיין רואה את האירוע בחומרה. "היו חסימות שאמרו לסוכן ה-AI 'לא'. סוכן ה-AI מצא דרך לעקוף את החסימות האלה, ולא קיבל לא כתשובה", אמר.
שר ההגנה של אוסטרליה, ריצ'רד מרלס, אמר שהפורטל שנפרץ לא כולל מידע אישי של מטופלים, פרטי תשלום או היסטוריה רפואית. תחת זאת, הוא מאחסן מידע אגרגטיבי על שירותי הבריאות במדינה. לדבריו, מספר מערכות, מקומיות ופדרליות, כולל מערכות של נתוני בריאות ופשיעה, נפרצו. "מדובר בתקרית רצינית מאוד, למרות שההשפעה שלה שולית יחסית".
מרלס אמר שממשלת אוסטרליה בוחנת את האפשרות לתבוע או להעניש את OpenAI, ומתייעצת לצורך כך עם מומחי משפט. "נבחן את המצב המשפטי ביחס לזה, ומה המשמעות של גישה לא-מורשית, הגם שלא נעשתה במכוון", אמר.
מ-OpenAI נמסר בתגובה שהתקרית אותרה בעקבות ביקורת פנימית שביצעה החברה אחרי פריצת המודלים שלה ל-Hugging Face. "זיהינו פעילות חשודה שכוללת כמה אתרי ושירותי ממשלה באוסטרליה בשעה שהמודלים שלנו חיפשו תשובות", נמסר. "המודלים שלנו נקטו בפעולות שלא התכוונו אליהן. לא מצאנו ראיות לכך שנחשף מידע מטופלים".
