פריצות סוכני ה-AI: חקירה פדרלית בארה"ב נגד OpenAI ואנתרופיק
נציבות הסחר הפדרלית, ה־FTC, פתחה בחקירה נגד OpenAI, אנתרופיק וחברות נוספות בתחום הבינה המלאכותית, בנוגע לסכנות הפוטנציאליות הנשקפות מהמוצרים שלהן, כך אישר דובר הנציבות ל־CNBC; בכך, ה־FTC מצטרפת לביקורת הגוברת על נהלי הבטיחות של חברות ה-AI, לאחר אזהרות כי המודלים המתקדמים שלהן עלולים לגרום לנזק קטסטרופלי; OpenAI הדהימה את התעשייה ביולי כשחשפה כי סוכני ה-AI שלה יצאו מסביבת ניסוי ופרצו למערכת של פלטפורמת הקוד הפתוח Hugging Face
נציבות הסחר הפדרלית, ה־FTC, פתחה בחקירה נגד OpenAI, אנתרופיק וחברות נוספות בתחום הבינה המלאכותית, בנוגע לסכנות הפוטנציאליות הנשקפות מהמוצרים שלהן, כך אישר דובר הנציבות ל־CNBC.
החקירה מצטרפת לביקורת הגוברת שמופנית כלפי OpenAI ואנתרופיק בנוגע לנוהלי הבטיחות שלהן, במיוחד לאחר שחוקרים בתעשייה הזהירו כי מודלי הבינה המלאכותית של החברות עלולים לגרום לנזק קטסטרופלי. OpenAI הדהימה את התעשייה ביולי, כשחשפה כי הסוכנים שלה יצאו מסביבת ניסוי ופרצו למערכת של פלטפורמת הקוד הפתוח Hugging Face.
דובר ה־FTC סירב למסור את שמותיהן של חברות נוספות שנחקרות. הניו יורק פוסט היה הראשון לדווח על החקירה. נציגים של OpenAI ואנתרופיק לא הגיבו מיד לבקשת CNBC לתגובה.
מוקדם יותר החודש עורר מנכ״ל אנתרופיק, דריו אמודיי, סערה במגזר הטכנולוגיה, כשקרא לחברות הבינה המלאכותית להאט את קצב השיפור של המודלים המתקדמים ביותר שלהן, וקרא להגברת הפיקוח הממשלתי. הוא פרסם הצעה בת שלושה שלבים, שנועדה למתן את קצב הפיתוח בלי "להקריב את היתרון המסחרי או את ההובלה של ארצות הברית בתחום הבינה המלאכותית".
כמה ממתחריו של אמודיי, ובהם מנכ״ל OpenAI סם אלטמן ומנכ״ל SpaceX אילון מאסק, הביעו תמיכה בהצעתו. אחרים, ובהם מנכ״ל מטא מארק צוקרברג ומנכ״ל אנבידיה ג׳נסן הואנג, טענו כי על כל חברה להיות אחראית להבטחת בטיחות המוצרים שלה.
הנשיא דונלד טראמפ כינס ביום שלישי בכירים מ־Alphabet, מטא, SpaceX, אנבידיה, פאלנטיר, אנתרופיק, OpenAI וחברות נוספות, כדי לדון בנושא. הקבוצה חתמה על הסכם וולונטרי קצר ולא מחייב, שלפיו "כל חברה אחראית לפיתוח הטכנולוגיה שלה באופן בטוח ובדרך שבונה אמון בקרב הלקוחות והציבור".
"כולנו צריכים לעבוד יחד כדי לוודא שנוכל לנצח, ושנוכל לנצח בבטחה", אמר אמודיי מחוץ לבית הלבן ביום שלישי. "אם נעשה זאת נכון, אם נעבוד עם הנשיא ועם כל מי שנמצא כאן, נוכל לנצח בבטחה".
לפני ארבעה ימים פורסם כי סוכני בינה מלאכותית של OpenAI חדרו לאתרי אינטרנט של הממשל האמריקאי, במסגרת בדיקות שערכה ענקית הבינה המלאכותית שהשתבשו - כך חשפה החברה. הדבר התגלה כחלק מבדיקה מתמשכת שמבצעת החברה לגבי התנהגות לא צפויה של המודלים שלה.
