גוגל הגיעה לפשרה בתביעות על התאבדויות מתבגרים בעקבות צ'טבוטים
החברה וסטארט-אפ הבינה המלאכותית Character.AI ששולב בגוגל, חתמו על הסכמי פשרה בחמש תביעות פיצויים שהוגשו נגדן על ידי הורי קטינים שפגעו בעצמם. פרטי ההסכמים והיקף הפיצויים שהסכימו החברות לשלם עדיין אינם ידועים
גוגל וסטארט-אפ הבינה המלאכותית Character.AI חתמו על הסכמי פשרה בחמש תביעות פיצויים שהוגשו נגדן על ידי הורי קטינים שפגעו בעצמם או התאבדו בעקבות שיחות עם הצ'טבוטים של Charcater.AI – כך לפי דיווחים בארה"ב. פרטי ההסכמים והיקף הפיצויים שהסכימו החברות לשלם עדיין אינם ידועים.
Character.AI הוקמה על ידי יוצאי גוגל, נועם שזיר ודניאל דה פרייטס. השירות של החברה מאפשר למשתמשים ליצור דמויות מבוססות AI, בהן כאלו שמבוססות על אנשים אמיתיים ולנהל איתן שיחות. ב-2024 גוגל חתמה עם החברה על הסכם בסך 2.7 מיליארד דולר, במסגרתו קיבלה ענקית הטכנולוגיה רישיון שימוש לא-בלעדי בטכנולוגיה של Character.AI ושזיר ודה פרייטס חזרו לגוגל.
התביעות נגד Character.AI הוגשו בטענה שהצ'טבוטים של החברה עודדו מתבגרים לפגוע בעצמם או להתאבד. התביעה הבולטת ביותר הוגשה באוקטובר 2024 על ידי מייגן גרסיה, שטענה שצ'טבוט ברוח משחקי הכס עודד את בנה בן ה-14, סיוול סטזר, להתאבד אחרי שפיתח "תלות" ברובוט. גוגל נתבעה בטענה שיש לראות בה "יוצרת-משותפת" של Character.AI, מכיוון שסיפקה לחברה "משאבים כלכליים, כוח אדם, קניין רוחני וטכנולוגיית AI".
בעקבות התביעה יישמה החברה מספר מנגנוני הגנה ובהם יצירת מודל AI נפרד לקטינים, עם מגבלות תוכן נוקשות יותר ובקרי שליטה להורים. בנובמבר, היא חסמה קטינים לחלוטין משימוש בשירות שלה.
הסכם הפשרה עם גרסיה, וכן ההסכמים שהוגשו בארבע התביעות האחרות, עדיין צריכים לקבל את אישור בית המשפט. היילי הינקל מארגון Fairplay, שפועל לקידום בטיחות ילדים ברשת, אמרה לניו יורק טיימס שהסכמי הפשרה אינם סוף פסוק. "רק התחלנו לראות את הנזק ש-AI תגרום לילדים ללא רגולציה", היא הבהירה.
