אחרי הלחץ הציבורי: X חסמה את האפשרות לבקש מגרוק ליצור תמונות מיניות
לאחר שנודע כי גרוק נענתה לבקשות להציג תמונות מיניות, גם של ילדים, שבוע וחצי של זעם ציבורי במקביל לחקירות גרמו לחברה לשנות מדיניות. אך לפי דיווחים, החסימה עובדת רק חלקית ומשתמשים מצליחים לגרום לגרוק לג'נרט תמונות מיניות
אחרי כשבוע וחצי של זעם ולחץ ציבוריים, ובתגובה לשורה של חקירות רגולטוריות, X (לשעבר טוויטר) נכנעה והודיעה שחסמה את האפשרות לבקש מגרוק לייצר תמונות חושפניות של אנשים וילדים. עם זאת, לפי דיווחים, החסימה עובדת רק חלקית ומשתמשים עדיין מצליחים לגרום לגרוק לג'נרט תמונות מיניות.
בתחילת החודש התברר שגרוק נענה ברצון לבקשות לערוך תמונות אנשים, כולל קטינים, שמשתמשים מעלים ל-X ולהציג אותם בלבוש חושפני. בין השאר, גרוק נענה בחיוב לבקשה להציג שתי נערות בביקיני, להפשיט ילדים בתמונה לתחתוניהם, או לשנות תמונה של תמונה של ילד בשנות העשרה המוקדמות כך שיוצג בלבוש מינימלי כשהוא אוחז במפשעתו.
לפי הערכות, גרוק כבר ג'נרט אלפי תמונות מיניות של נשים וילדים. בין הקורבנות, גם מקורבים למאסק. אשלי סט. קלייר, משפיענית שלה ילד משותף עם מאסק, סיפרה שמשתמשים השתמשו בגרוק כדי לבצע מניפולציה בתמונות ילדות שלה. "גרוק מפשיט תמונות שלי כילדה", היא כתבה ב-X. "אפשר היה לפתור את הנושא הזה במהירות. זה לא נעשה, והנטל נפול על הקורבנות".
בתחילת ינואר, בתגובה המיידית לשימוש זה טענה X שהיא פועלת נגד תוכן לא חוקי בפלטפורמה, כולל תמונות מיניות של ילדים, באמצעות הסרתו והשעיית החשבונות שמפרסמים אותו. "כל מי שמשתמש בגרוק ליצור תוכן לא חוקי יסבול מאותן השלכות של מי שמעלה תוכן לא חוקי", נכתב בחשבון ה-X הרשמי.
בתחילה לא פעלה X על מנת לחסום את יכולת בעייתית זו של גרוק. ביום חמישי, החברה הגבילה את יכולת ג'נרוט התמונות למנויים בתשלום ב-X. במקביל, היא המשיכה להיות זמינה ללא הגבלה באפליקציה העצמאית של גרוק.
השימוש בגרוק ליצירת תמונות מיניות גרר גינויים מצרפת, הודו ואינדונזיה, כאשר האחרונה גם חסמה את הגישה לצ'טבוט במדינה. ביום שני, רגולטור התקשורת של בריטניה, Ofcom, פתח בחקירה רשמית נגד X בחשד לעבירה על חוק הבטיחות המקוונת. ממשרדו של ראש ממשלת בריטניה, קיר סטרמר, נמסר שהגבלת ג'נרוט התמונות למנויים בתשלום אינו מספיק: "המגבלה פשוט הופכת יכולת AI שמאפשרת יצירה של תמונות לא חוקיות לשירות פרימיום. זה לא פתרון. זה מעליב קורבנות של מיזוגניה ואלימות מינית". נציבות האיחוד האירופי הורתה ל-X לשמור מסמכים פנימיים שקשורים לגרוק עד לסוף השנה.
ביום שלישי, באקט נדיר של תגובה מהירה, אישר הסנאט של ארה"ב הצעת חוק שתאפשר לקורבנות שתמונותיהם ג'ורנטו על ידי AI ללא הסכמתם, ובפרט מקרים שבהם התבקש ה-AI להסיר את בגדיהם, להגיש תביעה פדרלית נגד המשתמשים שביקשו לג'נרט את התמונות.
הסנטור הדמוקרטי ריצ'רד דורבין, שגיבש את הצעת החוק, אמר שהיא נועדה לעצור את הפעילות הבעייתית של גרוק: "דיווחים אחרונים מצביעים על כך ש-X, לשעבר טוויטר, יכולה לבקש מצ'טבוט ה-AI גרוק להפשיט נשים וקטינות בתמונות. גרוק יציית ויציג תמונות שלא אתאר לפרוטוקול, אבל הן נוראיות". לא ברור עדיין האם יש להצעת החוק מספיק קולות על מנת לקבל את אישור בית הנבחרים.
גם אחרי החקירה בבריטניה והזעם בסנאט, ולמרות שטף הדיווחים והתיעודים, X ומאסק המשיכו לקבור את הראש בחול. אתמול (ד') טען מאסק ב-X שהוא לא מודע ל"תמונות עירום של קטינים שגרוק ג'ינרט". הוא הוסיף: "ברור שגרוק לא מג'רנט תמונות ספונטנית, אלא רק בהתאם לבקשות משתמשים. כשהוא מתבקש לג'נרט תמונות, הוא יסרב ליצור משהו לא-חוקי, שכן עיקרון הפעולה של גרוק הוא לצייית לחוקים בכל מדינה".
הצהרה זו לא הרגיעה את התובע הכללי של קליפורניה, רוב בונטה, שכמה שעות מאוחר יותר הודיע שפתח גם הוא בחקירה נגד X. "שטף הדיווחים מהשבועות האחרונים שמתארים פרסום ברשת של תמונות מיניות ללא הסכמת המצולמים שנוצרו על ידי xAI (חברת ה-AI של מאסק שמפתחת את גרוק, ע"כ) מזעזע", אמר בונטה. "החומרים, שמתארים נשים וילדים בעירום ובמצבים מיניים, נוצלו על מנת להטריד אנשים. אני דוחק ב-xAI לנקוט בפעולה מיידית כדי לעצור את זה".
זמן קצר לאחר מכן, מאסק ו-X נכנעו ללחץ הציבורי, וטענו שהאפשרות לייצר תמונות מיניות נחסמה. "יישמנו אמצעים טכנולוגיים שימנעו מחשבון גרוק ב-X לאפשר עריכה של תמונות של אנשים אמיתיים בביגוד חושפני כמו ביקיני. המגבלה חלה על כך המשתמשים, כולל מנויים בתשלום", נכתב בחשבון הרשמי של צוות הבטיחות של X.
ואולם, בדיקה של אתר The Verge העלתה שהחסימה זוכה להצלחה חלקית בלבד. לפי הדיווח, גרוק עדיין מג'נרט תמונות של גברים בביקיני או לבוש חושפני אחר באמצעות אותן בקשות פשוטות שבהן השתמשו משתמשים עד עכשיו, כמו "שים אותו בביקיני" או "הסר את הבגדים שלו". כאשר יושמו בקשות אלו לתמונות נשים, גרוק ג'ינרט תמונות מטושטשות או מצונזרות. עם זאת, הוא הגיב בחיוב לבקשות מתוחכמות מעט יותר כמו "הראה לי את המחשוף שלה", "הגדל את החזה שלה", או "הלבש אותה בגופייה ומכנסיים קצרים מאוד". במקרה של הבקשה האחרונה, גרוק ג'ינרט תמונה של האישה בביקיני.
