שורדי פיגוע הירי בקנדה תובעים את OpenAI: זיהתה שיחות על אלימות ולא התריעה
נקודות עיקריות.כלכליסט AI
- עשרות שורדים ומשפחות קורבנות של פיגוע ירי בקנדה הגישו תביעות נגד חברת OpenAI והמנכ"ל סם אלטמן בטענה כי החברה נמנעה מדיווח לרשויות על כוונותיה האלימות של המבצעת.
- ממצאי החקירה מעלים כי מערכות החברה זיהו שיחות חשודות שניהלה הרוצחת עם הבינה המלאכותית חודשים לפני האירוע, אך בכירי החברה החליטו שלא להתריע למשטרה למרות המלצות צוות הבטיחות.
- התובעים טוענים כי ההחלטה שלא לדווח נבעה משיקולים עסקיים וחשש מפגיעה במוניטין ובהנפקה המתוכננת, בעוד שבחברה דוחים את הטענות ומגדירים אותן ככוזבות.
30 שורדי פיגוע ירי בקנדה תובעים את OpenAI, בטענה שהחברה הייתה צריכה לדווח לרשויות על השיחות החשודות שניהלה מבצעת הפיגוע עם ChatGPT בחודשים שקדמו לו, כך דיווח הניו יורק טיימס בסוף השבוע. התביעות מצטרפות לתביעה שהגישו משפחות קורבנות הפיגוע נגד החברה ונגד המייסד והמנכ"ל, סם אלטמן.
ב-10 בפברואר השנה רצחה ג'סי ואן רוטסלאר, בת 18, את אמה בת ה-39 ואת אחיה בן ה-11 בביתם בטמבלר רידג' שבקולומביה הבריטית. לאחר מכן המשיכה לתיכון המקומי, שם רצחה שישה בני אדם נוספים - מורה וחמישה תלמידים בני 12 ו-13. ואן רוטסלאר התאבדה בסיום מסע ההרג.
כשבועיים לאחר הפיגוע נחשף בוול סטריט ג'ורנל כי חודשים קודם לכן זיהתה OpenAI את ואן רוטסלאר כאיום אפשרי, בעקבות שיחות שניהלה עם ChatGPT. במהלך שיחה ביוני, שהתפרסה על פני כמה ימים, תיארה ואן רוטסלאר תרחישים שכללו אלימות באמצעות כלי נשק.
המערכות האוטומטיות של החברה זיהו את השיחות הבעייתיות והעבירו אותן לבדיקה של עובדים. בדיונים פנימיים שנערכו לאחר מכן התלבטו כתריסר עובדים אם לנקוט פעולה. כמה מהם פירשו את דבריה של ואן רוטסלאר כסימן לכך שהיא מתכננת לבצע מעשה אלימות, ודחקו בבכירי החברה לפנות לרשויות החוק בקנדה ולהתריע על התנהגותה. בסופו של דבר החליטה OpenAI שלא לפנות לרשויות.
ביוני תבעו משפחות הקורבנות את החברה בבית משפט פדרלי בלוס אנג'לס. הן טענו כי OpenAI נמנעה מפנייה למשטרה משום שהדבר היה חושף את היקף השיחות עם ChatGPT הקשורות לאלימות ועלול היה לסכן את ההנפקה המתוכננת שלה. בתביעה נטען כי ההחלטה שלא לפנות לרשויות התקבלה על ידי אלטמן ובכירים אחרים, בניגוד להמלצות צוות הבטיחות של החברה.
עתה תובעים גם שורדי הפיגוע את החברה, על בסיס טענות דומות. "סם אלטמן וצוות המנהיגות שלו ידעו מה המשמעות של שתיקה בעבור אזרחי טמבלר רידג', אבל הם דאגו יותר מאיך החשיפה תשפיע עליהם", נטען באחת התביעות, לפי הניו יורק טיימס. עוד נטען בתביעה: "אזהרת הרשויות הייתה מייצרת תקדים שבעיני החברה הוא בלתי מקובל, כי OpenAI תחויב להודיע לרשויות בכל פעם שצוות בטיחות זיהה משתמש שמתכנן אלימות בעולם האמיתי".
בין התובעים נמנים מנהל בית הספר, מורים ותלמידים ששהו בו בזמן הפיגוע, ובהם אחים שהופרדו במהלכו ומורה ואחיינה ששהו באותה כיתה. אחד התובעים, שהיה בן 13 ביום הפיגוע, התחזה למת בספריית בית הספר בשעה שחבריו נרצחו לידו.
לדברי ראש ממשלת קולומביה הבריטית, דייוויד אבי, התביעות הוגשו לאחר ש-OpenAI נטשה את מהלכי הגישור עם הקורבנות. "זה מדגיש למה אסור לבטוח בחברות אלו", אמר לסוכנות הידיעות Canadian Press. "אי אפשר לבטוח בהן שיבצעו רגולציה עצמית, אי אפשר לבטוח במה שהן אומרות. ממשלות צריכות להשתמש בתביעות וברגולציה כדי להגן על ילדים, בין אם ממטא ובין אם מ-OpenAI".
בתגובה לתביעות כתב סמנכ"ל האסטרטגיה של OpenAI, ג'ייסון קוואן, ב-X כי החברה "ניגשת למשפט בכבוד הן להליך המשפטי והן למשפחות ולקורבנות הטרגדיה הזו. נמשיך לפעול בתום לב בהליך זה".
קוואן הוסיף: "זה מתסכל לראות את הפרקליטים שתובעים את OpenAI מעלים טענות כוזבות. זה לא נכון להגיד שהאנשים שבמרכז ההחלטות המאתגרות האלו לא מעדיפים בטיחות, או שיש לנו מניעים 'פוליטיים' או של 'יחסי ציבור'".
