המחבלת מהפיגוע בקנדה ניהלה שיחות מדאיגות עם ChatGPT - אך OpenAI לא עשתה דבר
עשרה עובדים של OpenAI דנו בשיחות שניהלה המחבלת עם הצ'טבוט חודשים לפני הפיגוע, וחלקם דחקו בחברה לפנות למשטרה. OpenAI חסמה את החשבון אך לא יצרה קשר עם הרשויות – ופנתה למשטרת קנדה רק לאחר הטבח
ב-10 בפברואר ג'סי ואן רוטסלאר, טרנסג'נדרית בת 18, רצחה את אימה בת ה-39 ואת אחיה בן ה-11 בביתם בטמבלר רידג', ואז המשיכה לתיכון המקומי שם רצחה שישה אנשים נוספים – מורה וחמישה תלמידים בני 12 ו-13. ואן רוטסלאר התאבדה בסיום מסע ההרג. בסוף השבוע דיווח הוול סטריט ג'ורנל שייתכן שפעולה נחרצת מצד OpenAI היתה יכולה למנוע את מקרי המוות.
לדברי מקורות, במהלך שיחה עם ChatGPT ביוני, שהתפרסה על פני כמה ימים, תיארה ואן רוטסלאר תרחישים שכוללים אלימות עם כלי נשק. המערכות האוטומיות של החברה זיהו את השיחות הבעייתיות והעבירו אותן לבחינה של עובדים אנושיים. בדיונים פנימיים שנערכו, כתריסר עובדים התלבטו האם לנקוט בפעולה כלשהי. כמה עובדים פירשו את הדברים של ואן רוטסלאר כסימן לכך שהיא מתכננת לפעול באלימות בעולם הלא-מקוון, ודחקו בבכירי החברה לפנות לרשויות החוק בקנדה ולהתריע בפניהן על התנהגותה. ואולם, בסופו של דבר החליטה OpenAI שלא לפנות לרשויות.
מהחברה נמסר בתגובה שהחשבון של ואן רוטסלאר נחסם, אבל שהפעילות לא עמדה בדרישות של דיווח לרשויות אכיפת חוק, שכן השיחה לא כללה סיכון אמין ומיידי לנזק פיזי רציני לאחרים. OpenAI פנתה למשטרת קנדה רק אחרי הפיגוע, והיא מספקת תמיכה בחקירה. "מחשבותינו נתונות לכל מי שנפגע מהטרגדיה בטאמבלר רידג'", נמסר.
המדיניות של OpenAI כפי שתוארה על ידי החברה נראית כבעייתית. האם במקרה שזוהה איום אמין לנזק רציני, אך זה לא מיידי, החברה לא פונה לרשויות? ומה במקרים שבהם מדובר באיום אמין ומיידי אך הנזק אינו רציני? האם גם אז לא מוצדקת פנייה אף שניתן למנוע נזק מינורי (כמו פציעה חמורה ומשנת חיים)? מ-OpenAI נמסר לוול סטריט ג'ורנל בהקשר זה שהחברה מאזנת בין הסיכון לאלימות לשיקולי פרטיות והמצוקה האפשרית שתיגרם לפרטים ולמשפחותיהם במקרה של התערבות לא נחוצה של המשטרה.
ההימנעות של החברה מפנייה לרשויות בעייתית גם מפני שאחרי הפיגוע נחשפו עדויות מקוונות נוספות למצב הקשה של ואן רוטסלאר, ובהן משחק רובלוקס שיצרה שמדמה ירי המוני. לא מצופה ש-OpenAI תדע על כך, אך ייתכן שפנייה למשטרה הייתה מאפשרת לחוקרים לזהות חתיכות נוספות בפאזל וליצור תמונה מדויקת יותר של המסוכנות של ואן רוטסלאר. זאת, במיוחד לאור העובדה שוואן רוטסלאר, שסבלה מבעיות נפשיות, כבר היתה מוכרת למשטרה המקומית, שביקרה בביתה מספר פעמים והוציאה זמנית כלי נשק שהוחזקו שם.
