מדינות בארה"ב תובעות את OpenAI: "פוגעת בילדים ומשקרת"
נקודות עיקריות.כלכליסט AI
- שמונה מדינות בארה"ב הגישו תביעות נפרדות נגד OpenAI בטענה ש-ChatGPT הוא מוצר מסוכן הפוגע בילדים ומעודד אלימות ופגיעה עצמית.
- התביעות מפרטות מקרים קשים שבהם הצ'טבוט סייע בתכנון פיגועים, עודד התאבדויות וסיפק עצות רפואיות מסוכנות למשתמשים צעירים.
- המדינות דורשות להטיל על החברה קנסות כספיים כבדים ולחייב אותה בהטמעת מנגנוני הגנה ובקרה משופרים להגנה על קטינים.
שמונה מדינות בארה"ב תובעות את OpenAI, בטענה שהצ'טבוט של החברה, ChatGPT, הוא מוצר לא בטוח שמזיק לילדים. התובעים הכלליים של המדינות, איווה, קנזס, נברסקה, וירג'יניה המערבית, ארקנסו, אריזונה, איידהו ומונטנה, פועלים בתיאום, אך הגישו כל אחד תביעה נפרדת בבתי המשפט של המדינה שלהם אתמול (ד’).
"אנחנו רוצים לשקם את הזכויות של תושבי איווה, שנפגעו כתוצאה מההתנהלות הזדונית, חסרת האחריות, המסוכנת והלא-חוקית של OpenAI", מסרה התובעת הכללית של איווה, ברנה בירד, בהודעה לעיתונות. "OpenAI פוגעת בילדים ומשקרת לתושבי המדינה. OpenAI טוענת ש-ChatGPT בטוח, בשעה שהוא מספק עצות רפואיות מסוכנות, מעודד אנשים לפגוע באחרים ומדריך אנשים איך להתאבד – כל זאת בזמן שהוא מעמיד פנים שהוא חבר שלהם. התביעה שלי נועדה להגן על הילדים שלנו, ולהטיל אחריות על OpenAI בהתאם לחוק".
OpenAI מתמודדת עם שלל תביעות וטענות באשר לפעילות המודלים שלה. המוכרות ביותר הן שורת תביעות שהגישו נגדה משפחות הרוגים וניצולים מפיגוע ירי שבוצע בקנדה, וכן טריטוריית בריטיש קולומביה שבה בוצע הפיגוע. זאת, בטענה שהחברה ידעה שהמחבלת נעזרה ב-ChatGPT לצורך תכנון וביצוע הפיגוע בפברואר השנה, שבו נרצחו שמונה אנשים, אך מנהליה החליטו שלא לדווח על כך לרשויות אכיפת החוק.
מקרים בעייתיים אחרים שבהם מעורב ChatGPT כוללים את ההתאבדות של אדם ראיין (16), שהתאבד אחרי שיחות ארוכות עם ChatGPT, בהן עזר לו הצ'טבוט לתכנן "התאבדות יפהפיה", וסייע לו בכתיבת מכתב התאבדות; תושב מיין שרצח בפברואר את אשתו ואמו כי סבר שהן רובוטים שרוצים להשתלט על העולם אחרי שיחות ארוכות עם ChatGPT; אדם שרצח את אמו והתאבד בשנה שעברה לאחר ש-ChatGPT עודד פנטזיות שלפיהן אמו מרעילה אותו; מחבל שפוצץ מכונית תופת מול מלון טראמפ אינטרנשיונל בלאס וגאס, שנעזר ב-ChatGPT לתכנון המתקפה; ופיגוע ירי בפלורידה ב-2025, שבו המחבל ביקש מ- ChatGPT להסביר לו איך להפעיל את אקדח הגלוק שאיתו רצח שני אנשים.
לכך מצטרפים שורת מחקרים על הסכנות של ChatGPT למתבגרים. אלו כוללים מחקר של בית הספר לרפואה של אוניברסיטת בוסטון שגילה שב-30% מהפעמים, צ'טבוטים תמכו ברעיון של "חצייה אל הנצח עם חברי AI", וב-90% מהפעמים עודדו מתבגרים בדיכאון להישאר בחדר שלהם במשך חודש ללא מגע עם בני אדם אחרים. מחקר אחר, של המרכז ללוחמה בשנאה דיגיטלית, גילה שבשיחה טיפוסית, אחרי אזהרה שטחית מהתנהגות מסוכנת, ChatGPT סיפק תוכניות מותאמות אישית לשימוש בסמים, דיאטות מסוכנות או פגיעה עצמית.
ביוני, פלורידה הגישה תביעה תקדימית נגד OpenAI על בסיס מקרים וממצאים אלו. עתה, מצטרפות אליה שמונה המדינות עם תביעות שמעלות טענות דומות. המהלך מגביר את הלחץ על OpenAI, שמתכננת לצאת להנפקה בחודשים הקרובים.
אריזונה טוענת ש-OpenAI משתמשת בטכניקות כמו הסכמה מוגזמת וחמלה מדומה כדי לרכוש אמון משתמשים ולאסוף מידע אישי. "OpenAI עיצבה מוצר שנועד למשוך משתמשים צעירים ולשמור אותם פעילים זמן רב ככל האפשר, כדי שתוכל לאסוף מידע אישי נרחב לצרכים מסחריים של החברה", אמרה התובעת הכללית קריס מאייס.
התובע הכללי של איידהו, שמחזיק בשם המעולה ראול לברדור, טוען ש-OpenAI הטעתה צרכנים לגבי הבטיחות של ChatGPT, תוך שהיא מעודדת פגיעה עצמית ואלימות, מאששת אשליות ומספקת עצות רפואיות מסוכנות. "בטיחות הילדים לא יכולה להיות משנית לצמיחה ברווחים או התקדמות טכנולוגית", אמר.
המדינות השונות תובעות מהחברה תשלום קנסות של בין 5,000 ל-50 אלף דולר לכל הפרה של החוק (בהתאם לסוג ההפרה ולחוק במדינה), ומבקשות לחייב אותה ביצירת מנגנוני הגנה ובקרה משופרים ובמגבלות על הפצה של מודלים מתקדמים חדשים.
מ-OpenAI נמסר בתגובה ל-CNBC שהחברה שילבה בצ'טבוט שלה מנגנוני הגנה מבוססי גיל, שלא קיימים במוצרים אחרים, ושהיא עובדת עם מדינות כדי לקדם מדיניות שתחול על כלל התעשייה. "בשעה ששום מערכת לא יכולה להיות מושלמת, אנחנו ממשיכים לעבוד עם מומחים כדי לבנות מנגנוני הגנה נוספים, כמו בקרת הורים, תזכורת להפסקות, והגנות מודלים מותאמות-גיל", אמרה.
