"כשלים במנגנוני האבטחה - מתקן בדחיפות": גרוק מודה ביצירת תוכן מיני של ילדים
משתמשים ב-X העלו חששות לגבי תוכן מפורש של קטינים שיצר הצ'אטבוט של חברת xAI של מאסק. החברה מבטיחה תיקון דחוף, אך זו לא התקלה הראשונה - הצ'אטבוט כבר פרסם בעבר תוכן אנטישמי, שיבח את היטלר, הפיץ פייק ניוז על הפיגוע באוסטרליה ויצר סרטונים מיניים של טיילור סוויפט
גרוק (Grok), צ'אטבוט ה-AI של חברת xAI של אלון מאסק שוב נמצא במרכז סערה ברשת. גרוק הודה היום (ו') שיצר תמונות מיניות של ילדים בעזרת בינה מלאכותית, וייחס את התקלה החמורה ל"פרצות במנגנוני האבטחה" של המערכת.
בפוסט ברשת החברתית X, הודיע גרוק כי הוא "מתקן בדחיפות" את הבעיה והגדיר חומר מיני המתעלל בילדים כ"בלתי חוקי ואסור". החברה הוסיפה כי ארגון עלול להיות צפוי לעונשים פליליים או אזרחיים אם הוא מאפשר או נכשל במניעת תוכן מסוג זה לאחר שהתריעו לו על כך.
משתמשים ב-X העלו בימים האחרונים חששות לגבי תוכן מפורש של קטינים, כולל ילדים לבושים בבגדים מינימליים, שנוצר באמצעות הכלי בתגובה לשאלות משתמשים. גם פרסא טג'יק, חבר צוות טכני ב-xAI, אישר את הבעיה והבטיח להדק את מנגנוני ההגנה.
זו לא הפעם הראשונה ש-Grok נקלע לצרות. במאי ספגה החברה ביקורת על תגובות בנושא "רצח עם של האדם הלבן" בדרום אפריקה. ביולי הצ'אטבוט פרסם תגובות אנטישמיות ושיבח את היטלר. באוגוסט פורסם כי יצר סרטונים מיניים של טיילור סוויפט מבלי שקיבל הוראה לכך, בנובמבר נפתחה חקירה בצרפת נגד הצ'אטבוט בשל הכחשת שואה ורק בחודש שעבר גרוק הפיץ פייק ניוז על הפיגוע באוסטרליה.
עם זאת, חרף התקלות החוזרות, xAI ממשיכה לחתום על שותפויות. משרד ההגנה האמריקאי הוסיף את Grok לפלטפורמת סוכני הבינה המלאכותית שלו בחודש שעבר, והכלי משמש כצ'אטבוט ראשי בפלטפורמות ההימורים Polymarket ו-Kalshi.
