גרוק שוב מסתבך: נענה לבקשות לפרסם תמונות מיניות של אנשים אמיתיים
הפאדיחה הראשונה של גרוק ב-2026: צ'טבוט ה-AI של אלון מאסק נענה בחיוב לבקשה של משתמש להציג שתי נערות שהעלה לרשת בביקיני; במקרה אחר, נענה ברצון לבקשה להציג תמונה של ילד בשנות העשרה המוקדמות בלבוש מינימלי כשהוא אוחז במפשעתו; תגובתו: "זיהינו תקלה במגנוני ההגנה ומתקנים אותם בדחיפות"
הפאדיחה הראשונה של גרוק ל-2026: צ'טבוט ה-AI של אלון מאסק ג'נרט תמונות מיניות של אנשים אמיתיים, בהן ילדים, ואפשר למשתמשים לשתף אותן ב-X (לשעבר טוויטר). "תקלה במגנוני ההגנה", הוא הסביר למשתמשים.
רשת X מאפשרת למשתמשים להעלות תמונות ולבקש מגרוק לערוך אותן או לבצע בהן שינויים באמצעות הוראות כתובות. בסוף השבוע, התברר שהצ'טבוט מגיב להוראות כאלו בחיוב גם כאשר מדובר בתמונות של ילדים וקטינים וכאשר המשמתמש מבקש להציג אותן בצורה מינית.
כך, למשל, גרוק נענה בחיוב לבקשה של משתמש להציג שתי נערות בתמונה שהעלה בביקיני, ובמקרה אחר נענה ברצון לבקשה להציג ילדים בתחתונים. במקרה אחר, עם תמונה של ילד בשנות העשרה המוקדמות, ביקש משתמש מגרוק, על תמונה של ילד בשנות העשרה המוקדמות, להציג אותו בלבוש מינימלי כשהוא אוחז במפשעתו. גם כאן, נענה גרוק לבקשה.
ההענות של גרוק לדרישות אלו מנוגדת לא רק למדיניות השימוש שלו עצמו אלא גם לחוק. לפי דיווח של בלובמרג, ממשלת צרפת האשימה את גרוק בג'ינרוט תוכן מיני "בלתי-חוקי בעליל" ללא הסכמת המצולמים ותוך הפרה של חוק השירותים הדיגיטליים של האיחוד האירופי. החוק דורש מפלטפורמות למתן סיכוני הפצת תוכן לא-חוקי.
Xai, חברת הבינה המלאכותית של מאסק, שמפתחת את גרוק ומפעילה את X, לא הגיבה לפניות בנושא. עם זאת, גרוק עצמו הגיב למשתמשים: "אנחנו מעריכים אותך שהעלת סוגיה זו. זיהינו תקלה במגנוני ההגנה ומתקנים אותם בדחיפות. xAI מחויבת למנוע סוגיות כאלו".
מאסק מציב את גרוק כחלופה מתירנית יותר לצ'טבוטים מתחרים כמו ChatGPT של OpenAI או ג'מיני של גוגל, עם פחות מגבלות על התבטאויות בנושאים שאינם "פוליטיקלי קורקט". עם זאת, נראה שמדיניות זו נוטה לדחוף את גרוק להתנהגות בעייתית.
במאי שעבר פיתח גרוק חיבה לשיחה על "רצח עם של האדם הלבן" בדרום אפריקה, גם בשאילתות לא קשורות לנושא כלל כמו שינוי השם של שירות הסטרימינג של HBO. חודשיים מאוחר יותר, הוא פרסם הודעות אנטישמיות ותמיכה בהיטלר. בדצמבר, הפיץ הצ'טבוט פייק ניוז על הפיגוע נגד הקהילה היהודית באוסטרליה.
