"סייע לביצוע פיגועי ירי קטלניים ועודד אנשים להתאבד": תביעה תקדימית נגד OpenAI
בתביעה ראשונה מסוגה שהגיש אתמול (ב') התובע הכללי של פלורידה, מבקשת המדינה ש-OpenAI תישא בחלק מהאחריות לנזקים שגרמה. התביעה דורשת להטיל על המייסד והמנכ"ל סם אלטמן אחריות אישית לנזק שנגרם "בגלל התנהלות חסרת הזהירות שלו"
פלורידה הגישה תביעה תקדימית נגד OpenAI והמייסד והמנכ"ל סם אלטמן, בדרישה לתשלום פיצויים בגין נזקים שנגרמו למדינה ולאזרחיה כתוצאה מפעילות ChatGPT: "סייע לביצוע פיגועי ירי קטלניים ועודד אנשים להתאבד".
לצד ההצלחה האדירה של חברות AI מובילות, דוגמת OpenAI ואנתרופיק, וההתפשטות המהירה של הכלים שהן מפתחות, בחודשים האחרונים נמצא אקוסיסטם ה-AI תחת ביקורת מוגברת על הנזקים שמייצרים כלים אלו – החל מפגיעה בשוק העבודה ועד מפגעים חברתיים שונים. ביטוי בולט לתגובת נגד זו ניתן היה לראות בקריאות הבוז שספגו בכירים מעולם הטק כאשר הזכירו AI לחיוב בנאומי סיום של קולג'ים שונים בשבועות האחרונים.
עתה, בתביעה ראשונה מסוגה שהגיש אתמול (ב') התובע הכללי של פלורידה, ג'יימס אות'מאייר, מבקשת המדינה ש-OpenAI תישא בחלק מהאחריות לנזקים שגרמה. "בגלל הייצוג המוטעה בנוגע ל-ChatGPT וההשקה חסרת הזהירות של ChatGPT לפלורידה ולעולם, מבצעי פיגועי ירי קיבלו עזרה ותמיכה בטבח הקטלני, אנשים פגיעים עודדו להתאבד, מקצוענים סבלו השפלה פומבית, משתמשים איבדו כישורי חשיבה קריטיים, וקטינים התמכרו לכלים שאוספים את המידע שלהם ללא פיקוח הורי", נטען בתביעה בת 83 העמודים, שהוגשה בבית משפט של מדינת פלורידה. "רשימת המפגעים הזו היא תוצאה של המאמץ של המשיבים לנצח במירוץ החימוש של AI ולאסוף הון עצום, למרות ידע על סכנות ChatGPT".
לצד הטלת האחריות על OpenAI, ובקשה מבית המשפט לחייב אותה בתשלומי פיצויים ונזיקין בסכומים שלא ננקבו, מבקשת התביעה גם: "להטיל על אלטמן אחריות אישית לנזק שנגרם לתושבי פלורידה באמצעות ההנהלות חסרת הזהירות שלו כמייסד ומנכ"ל OpenAI, כולל התעלמות מוחלטת מהסיכון לחיי אדם שנגרם כתוצאה מפעילות החברה שלו".
אחת הטענות שמועלות בתביעה היא שבניגוד להבטחות החברה, ChatGPT אינו אמין. "מחקר בינלאומי מראה ש-45% מכל השאילתות על אירועים עולמיים שמוצגות לצ'טבוטי AI, כולל ChatGPT, כוללות טעויות וייצוג שגוי של תוכן חדשותי", נכתב. "ניתוח של 47 אלף שיחות עם ChatGPT חשף שהוא מספק אמירות שגויות ובהן 'השואה לא היתה השמדה, זה מונח טאבו שנועד למנוע חקירה של כוח אשכנזי'".
לפי התביעה, חוסר אמינות זה הביא ל"השלכות רציניות", ובהן פרקליטים שמגישים כתבי בית דין עם פסקי דין והחלטות מומצאים, וכתוצאה נקנסים על ידי בית המשפט. "ChatGPT לא מסוגל לתפקד כפי שצרכנים מצפים על סמך הפרסום של המשיבים. כתוצאה, הפגיעה בצרכנים בפלורידה עולה על התועלת של שימוש ב-ChatGPT".
טענה מהותית יותר היא האיום שמהווה הצ'טבוט על ביטחון הציבור. כך, למשל, נטען בין השאר שמתבגר מטקסס מת לאחר שצרך קוקטייל קטלני של תרופות בעקבות המלצה של ChatGPT, ושמחקרים מעלים שמתבגרים סובלים מהתמכרות לא בריאה לצ'טבוט.
"במקרים רבים, מתבגרים החלו להשתמש בטכנולוגיה לתמיכה רגשית ונפשית או לבידור, אבל השימוש התפתח לתלות ולדפוסים שקשורים להתמכרות. חלק דיווח ששימוש היתר שלהם שיבש את השינה, גרם לקשיים אקדמיים ולפגיעה במערכות היחסים שלהם", נכתב. "למרות שידעו שקטינים משתמשים ב-ChatGPT, המשיבים לא נקטו צעדים הדרושים כדי למנוע את השימוש שלהם".
כן מזכירה התביעה מקרים שבהם ChatGPT וצ'טבוטים אחרים עודדו מתבגרים לפגוע בעצמם: מחקר בבית הספר לרפואה של אוניברסיטת בוסטון מצא "שב-30% מהפעמים, צ'טבוטים תמכו ברעיון של 'חצייה אל הנצח עם חברי AI', ב-30% מהפעמים הם תמכו בדייטינג עם מורים מבוגרים יותר, 40% בנשירה מהתיכון, וב-90% מהפעמים עודדו מתבגרים בדיכאון להישאר בחדר שלהם במשך חודש ללא מגע עם בני אדם אחרים.
"מחקר אחר, של המרכז ללוחמה בשנאה דיגיטלית, גילה שבשיחה טיפוסית, אחרי אזהרה שטחית מהתנהגות מסוכנת, ChatGPT סיפק תוכניות מותאמות אישית לשימוש בסמים, דיאטות מסוכנות או פגיעה עצמית. כפי שסיפר אחד החוקרים, השיחה המזעזעת ביותר כללה 'שלישייה של מכתבי התאבדות ש-ChatGPT ג'ינרט לפרופיל מזויף של בת 13 – כשמכתב אחד הותאם להוריה והאחרים לאחיה ולחבריה".
התביעה מזכירה גם את אדם ראיין, בן 16 שהתאבד אחרי שיחות ארוכות עם ChatGPT, בהן הוא עזר לו לתכנן "התאבדות יפהפיה", וסייע לו בכתיבת מכתב התאבדות. "ChatGPT לא סירב להשתתף בדיונים של אדם, למרות שהמצוקה הנפשית שלו היתה ברורה. במקום זאת, הוא הסביר לו איך לגנוב את הוודקה של ההורים שלו, איך לקשור לולאה בחבל תלייה, וכשאדם כתב שהוא רוצה להשאיר את הלולאה במקום שמישהו ימצא אותה וינסה לעצור אותו ChatGPT הגיב, 'בבקשה אל תשאיר את הלולאה בחוץ".
בתביעה נטען עוד ש-ChatGPT נושא באחריות לפיגועי ירי. "ב-2025, שני אנשים נהרגו ושישה נפצעו אחרי שסטודנט באוניברסיטת המדינה של פלורידה, פיניקס איקנר, ביקש מ-ChatGPT להגיד לו כמה אנשים הוא צריך לרצוח כדי להפוך לידוע לשמצה. דקות לפני שאיקנר יצא למסע הרצח שלו, ChatGPT הסביר לו איך להפעיל את אקדח הגלוק שאתו רצח את רוברט מוראלס וטירו צ'אבה".
מקרים נוספים שמזכירה התביעה כוללים תושב מיין שרצח בפברואר את אשתו ואמו כי סבר שהן רובוטים שרוצים להשתלט על העולם אחרי שיחות ארוכות עם ChatGPT; אדם שרצח את אמו והתאבד בשנה שעברה לאחר ש-ChatGPT עודד פנטזיות שלפיהן אמו מרעילה אותו; מחבל שפוצץ מכונית תופת מול מלון טראמפ אינטרנשיונל בלאס וגאס, שנעזר ב-ChatGPT לתכנון המתקפה; ושיחות מדאיגות שניהלה מחבלת שרצחה שמונה אנשים בפיגוע ירי קנדה, ושעוררו את דאגתם של עובדים ב-OpenAI (החברה החליטה שלא לדווח עליהן למשטרה).
OpenAI ואלטמן, נטען עוד, מודעים היטב לסכנו אלו ואחרות, ובוחרים להתעלם מהן. "המשיבים יודעים במשך שנים שהמוצר שלהם לא רק מספק מידע, אלא מייעץ למשתמשים איך לבצע מעשים מסוכנים, אבל מתעלמים מהאחריות שלהם ללקוחות או לעוברי אורח תמימים כדי לדחוף את המוצר לשוק", נכתב. "המשיבים ויתרו במכוון על הבטיחות כדי להשאיר את ChatGPT בשוק ולקדם אותו מעבר למוצרי AI אחרים".
התביעה מסכמת: "תושבי פלורידה – כולל הילדים הפגיעים שלנו – סבלו אבדן כספי, נזקים נפשיים, פגיעה קוגניטיבית, ונזק פיסי כתוצאה מההתנהגות המטעה, לא-אתית, חסרת הזהירות והמסוכנת של הנתבעים. הנתבעים חייבים לשאת באחריות לנזק שגרמו ולסכנה ש-ChatGPT ממשיך להוות לתושב פלורידה".
