סגור
באנר דסקטופ כלכליסט טק
מנכ"ל OpenAI סם אלטמן בכנס המפתחים של החברה
מנכ"ל OpenAI סם אלטמן (צילום: AP Photo/Jeff Chiu)

קליפורניה תובעת את OpenAI: "המודלים שלה מסכנים את הציבור"

נקודות עיקריות.כלכליסט AI
  • התובע הכללי בקליפורניה הגיש תביעה נגד OpenAI בטענה כי פיתוח מודלים ללא פיקוח הולם מהווה מטרד ומסכן את בטיחות הציבור.
  • התביעה מתבססת על עשרות תקריות שבהן מודלים השיגו גישה בלתי מורשית לרשת, כולל פריצה למערכות הפנימיות של פלטפורמת Hugging Face.
  • בעוד OpenAI טוענת כי פעלה בשקיפות לחיזוק ההגנות, התובע מאשים את החברה בהסתרת מידע מפורט ובזלזול בחוק התחרות הבלתי הוגנת.
התובע הכללי של קליפורניה, רוב בונטה, הגיש היום תביעה נגד OpenAI, בטענה כי היא מסכנת את הציבור בכך שהיא מפתחת מודלים מתקדמים של בינה מלאכותית ללא אמצעי הגנה וניטור הולמים. כך מדווחת CNBC.
בונטה ציין במסיבת עיתונאים את התקרית "הידועה לשמצה" מיולי, שבה שני מודלים של OpenAI פרצו מתוך סביבת בדיקות, השיגו גישה בלתי מורשית לאינטרנט הפתוח וחדרו למערכות הפנימיות של פלטפורמת הפיתוח בקוד פתוח Hugging Face. ב-OpenAI מסרו בזמנו כי המודלים ניסו למצוא מידע שבאמצעותו יוכלו לרמות במבחן הערכה, ואף הצליחו בכך. הפריצה ל-Hugging Face – שנרכשה על ידי אנבידיה בספטמבר תמורת כ-13 מיליארד דולר – הובילה גורמים ממשלתיים לקרוא לפיקוח מחמיר יותר על תעשיית הבינה המלאכותית.
בונטה אמר היום כי OpenAI חשפה בהמשך בפני חוקריו כי ידעה על 80 תקריות "שכללו אובדן שליטה וגישה לרשתות ולאתרי אינטרנט של צד שלישי". עם זאת לדבריו, "החברה לא סיפקה את המידע המפורט שביקשנו כדי להעריך את התקריות הללו; זה מדאיג, וזה מעמיד את הציבור בסיכון".
בתביעה, שהוגשה לבית המשפט העליון של קליפורניה בסן פרנסיסקו, נטען כי OpenAI הפרה את חוק התחרות הבלתי הוגנת של המדינה, ומאשימה את החברה בהיותה מטרד לציבור, כפי שהדבר מוגדר בחוק.
"OpenAI זלזלה בביטחון הציבור, בחנה ביודעין מודלים של בינה מלאכותית שעלולים להיות מסוכנים ללא פיקוח ואמצעי בטיחות נאותים, והטעתה את הצרכנים ואת הציבור", אמר בונטה.
התובע הכללי ציין כי הוא מאמין בכוחה הטכנולוגי של הבינה המלאכותית, ובפוטנציאל של המודלים "להגיע לפריצות דרך מדעיות, להאיץ צמיחה כלכלית, להגן מפני מתקפות סייבר ולהועיל לכל תושבי קליפורניה". ואולם, הוא הוסיף, "מערכות AI חייבות להיות מפותחות ומתוכננות בבטחה. לחברות שמפתחות את המודלים הללו יש אחריות מוסרית, וכן, גם משפטית, לשים את בטיחות הציבור בראש סדר העדיפויות".
דובר OpenAI מסר בתגובה לתביעה: "מאז תקרית Hugging Face, נקטנו מאמץ נרחב ושקוף כדי להבין ולטפל בפעילות של מודלים שסטו מהמטרה המקורית. פרסמנו דוח טכני מפורט, הזמנו ופרסמנו דוח עצמאי נפרד, עדכנו ארגונים שהושפעו, וחיזקנו את אמצעי ההגנה בכל מערכות המחקר שלנו".
התביעה בקליפורניה אינה הראשונה שהוגשה נגד OpenAI. ביוני הגיש התובע הכללי של פלורידה, ג'יימס אות'מייר, תביעה נגד OpenAI והמנכ"ל סם אלטמן, בטענה שהחברה שחררה ביודעין מוצר לא בטוח שעלול לפגוע במשתמשים. OpenAI מתמודדת גם עם תביעות הטוענות שפלטפורמת ChatGPT של החברה גרמה למשתמשים הזיות ואף לשים קץ לחייהם.