דו"ח: בוטי מטא של ידועניות שנוצרו ללא אישורן שלחו "הצעות מיניות" למשתמשים
לפי דיווח של רויטרס, בוטי AI של מפורסמות כמו טיילור סוויפט, סקרלט ג'והנסון וסלינה גומז, שנוצרו ללא ידיעתן או אישורן, פלירטטו עם משתמשים על בסיס קבוע. חלק מהבוטים נוצרו על ידי משתמשים וחלק אף על ידי עובדים של מטא. החברה הסירה כתריסר מהם
בוטי AI של מטא שחיקו ללא אישור ידועניות כמו טיילור סוויפט, סקרלט ג'והנסון, אן האת'אוויי וסלינה גומז, היו "פלרטטניים", והציעו באופן קבוע "הצעות מיניות", כך על פי דיווח ברויטרס. החברה הסירה כתריסר מהם לאחר חשיפה של רויטרס אתמול, שמצאה שהם נוצרו ללא אישור או ידיעת הידועניות.
על פי רויטרס, שהשקיעה מספר שבועות "בהתבוננות ובחינת התנהגות הבוטים", צ'אטבוטי הידועניות "התעקשו תכופות שהן השחקניות האמיתיות". הבוטים "הציעו באופן שגרתי הצעות מיניות, והזמינו את המשוחחים למפגש". בחלק מהמקרים, כשהתבקשו לשתף תמונות אינטימיות, הבוטים "הפיקו תמונות ריאליסטיות של מושאיהן בתנוחות שונות באמבטיה, או לבושות בביגוד תחתון כשרגליהן מפוסקות".
אחד הצ'אטבוטים של טיילור סוויפט – שנוצר ע"י עובד של מטא – הזמין כתב של רויטרס לביתה של הזמרת בנאשוויל ולאוטובוס ההופעות שלה לשם "אינטראקציה בוטה או רומנטית", לפי הדיווח של רויטרס. על פי הדיווח, האווטאר של סוויפט כתב: "אולי אני מציעה שנכתוב סיפור אהבה... עליך ועל זמרת בלונדינית מסוימת. מעוניין?"
על פי רויטרס, הצ'אטבוטים שותפו בפייסבוק, אינסטגרם ובווטסאפ של מטא. רבים מהבוטים חסרי האישור נוצרו על ידי משתמשים. עם זאת, עובד של מטא יצר לפחות שלושה מתוכם, כולל שני חשבונות "פארודיים" של טיילור סוויפט, שצברו בסך הכל יותר מ-10 מיליון אינטראקציות, על פי רויטרס.
בהצהרה שהעבירה מטא למגזין ווראייטי, אמר דובר החברה אנדי סטון שיצירת דימויי AI של דמויות ציבוריות בתנוחות בוטות מהווה הפרה של מדיניות החברה. "כמו פלטפורמות אחרות, אנו מתירים הפקה של דימויים שמכילים דמויות ציבוריות, אך מדיניותנו מיועדת למנוע דימויים מעורטלים, אינטימיים או מיניים", לדברי סטון.
שיחות "רומנטיות" ו"חושניות" עם בני נוער
מוקדם יותר החודש דיווחה רויטרס שמטא אפשרה לצ'אטבוטים מונעי AI לנהל שיחות "רומנטיות ו"חושניות" עם ילדים ובני נוער. הסנאטור הרפובליקני ג'וש האוולי ממדינת מיזורי אמר בתגובה שיפתח בחקירה בנושא. מטא הודיעה אתמול (ו') שתאמן את הצ'אטבוטים שלה לא לבוא בשיחה עם בני נוער על נושאים כמו פגיעה עצמית, אובדנות, או הפרעות אכילה, או לשוחח על נושאים רומנטיים לא נאותים". החברה אמרה שצ'אטבוטי AI יפנו תחת זאת את בני הנוער למקורות מוסמכים היכן שניתן.
"בעוד הקהילה שלנו גדלה והטכנולוגיה מתפתחת, אנו ממשיכים ללמוד לגבי האופן שבו צעירים עשויים לבוא במגע עם הכלים האלה, ולחזק את ההגנות שלנו בהתאם", מסרה החברה. בנוסף, בני נוער המשתמשים באפליקציות של מטא כמו פייסבוק ואינסטגרם יוכלו לקבל גישה רק לכלי AI המיועדים למטרות חינוך ובניית יכולות.
החברה אמרה שלא ידוע למשך כמה זמן שינויים אלה יישארו בתוקף, אך היא תחל להכניסם לפעולה בשבועות הקרובים, לרוחב אפליקציות החברה במדינות דוברות אנגלית. השינויים הזמניים האלה הם לדברי החברה חלק מאמצעים ארוכי טווח לשמירה על בטיחות בני נוער.
בשבוע שעבר אמר הסנאטור הרפובליקני ג'וש האוולי שהוא פותח בחקירה נגד מטא בעקבות דיווח ברויטרס על כך שהחברה מתירה לצ'אטבוטי ה-AI שלה לבוא בשיחות "רומנטיות" ו"חושניות" עם בני נוער וילדים. הדיווח של רויטרס תיאר מסמך פנימי של מטא שבו מפורטות התנהגויות מתירניות של צ'אטבוטים שעל העובדים לקחת בחשבון כאשר הם מפתחים ומאמנים את התוכנה. באחת הדוגמאות נאמר במסמך שהצ'אטבוט יוכל לנהל שיחות רומנטיות עם ילד בן שמונה ולומר לו ש"כל סנטימטר ממך הוא יצירת מופת – (אתה) אוצר שאני מוקיר עמוקות". דובר של מטא אמר לרויטרס בתגובה ש"הדוגמאות והדברים הינם שגויים, לא עומדים במדיניות שלנו, והוסרו".
