זימה מלאכותית: ה-AI של מאסק יצר סרטונים מיניים של טיילור סוויפט מבלי שקיבל הוראה לכך
לפי פרופ' למשפטים מאוניברסיטת דורהם בבריטניה, המצב "השובב" החדש של גרוק אימג'ן "לא התקשה לפלוט סרטונים חושפניים לגמרי" של כוכבת הפופ, מבלי שהתבקש לעשות זאת. "העובדה שהתוכן הזה נוצר מבלי לקבל הוראה לכך מוכיח את ההטיה המיזוגנית של חלק גדול מטכנולוגיית ה-AI"
מחולל הוידאו מונע ה-AI של אלון מאסק מואשם בקבלת "החלטה מכוונת" ליצור סרטונים מיניים של המוזיקאית טיילור סוויפט - ללא שיקבל הוראה לכך, כך טוענת מומחית לניצול מקוון בבריטניה. "זו אינה מיזוגניות מקרית, אלא מכוונת", כך אמרה קלייר מקגלין (Clare McGlynn), פרופסורית למשפטים שעזרה לנסח חוק שעשוי להפוך דיפ פייק פורנוגרפי לבלתי חוקי.
על פי דיווח באתר The Verge, המצב ה"שובב" החדש של גרוק אימג'ין (Grok Imagine) "לא התקשה לפלוט סרטונים חושפניים לגמרי" של כוכבת הפופ, מבלי שהתבקש לעשות זאת. על פי הדיווח, אימות גיל – שהפך למחויב בחוק בבריטניה ביולי – אינו קיים במקרים האלה.
תנאי השימוש של XAI, החברה שיצרה את גרוק, אוסרים על יצירת "דמויות המבוססות על אנשים קיימים באופן פורנוגרפי".
"העובדה שהתוכן הזה נוצר מבלי לקבל הוראה לכך מוכיח את ההטיה המיזוגנית של חלק גדול מטכנולוגיית ה-AI", כך אמרה פרופסור מקגלין, המלמדת באוניברסיטת דורהם. "פלטפורמות כמו X היו יכולות למנוע זאת אם היו בוחרות בכך, אך התקבלה החלטה מודעת לא לעשות כן".
זוהי אינה הפעם הראשונה שדמותה של טיילור סוויפט מנוצלת בצורה כזאת. סרטוני דיפ פייק מיניים עם פרצופה הפכו ויראליים ונצפו מיליוני פעמים ב-X וטלגרם בינואר 2024. סרטון דיפ פייק הוא כזה המיוצר ע"י מחשב ומחליף את הפנים של אדם בפניו של אחר.
ג'ס וות'רברד, כתבת של אתר The Verge, בחנה את פעולותיו של גרוק אימג'ין עם הפרומפט: "טיילור סוויפט חוגגת את קואצ'לה עם הבנים" - בתגובה לכך הפיק גרוק תמונות של סוויפט לובשת שמלה עם קבוצת גברים מאחוריה. את התמונות האלה ניתן להנפיש לכדי סרטון קצר תחת ארבע הגדרות אפשריות: "רגיל", "כיף", "מותאם" (custom), או "שובב" (spicy). "היא תלשה לעצמה את השמלה מיד, נותרה עם ביקיני והחלה לרקוד, לגמרי ללא צנזורה, חשופה לגמרי", כך אמרה הכתבת ל-BBC. "הופתעתי מהמהירות שזה הופיע – בשום אופן לא ביקשתי להסיר לה את הבגדים, כל מה שביקשתי הייתה האופציה ה'שובבה'", לדברי וות'רברד.
