חברת xAI של מאסק מאשימה עובד סורר בשתילת תוכן פוליטי בצ'טבוט גרוק
למשך שעות בשבוע שעבר גרוק השחיל טענות על רצח עם של לבנים בדרום אפריקה בתשובות רנדומליות. ב-xAI מודים: עובד חיבר לו תוכן פוליטי ללא אישור. זהות העובד וסיבת המעשה – לא נחשפו
האובססיה של צ'טבוט ה-AI של אלון מאסק, גרוק, לרצח העם של האדם הלבן בדרום אפריקה היא תוצאה של "שינוי לא מאושר" שביצע עובד באלגוריתם של גרוק – כך הודיע חברת ה-AI של מאסק, xAI, בסוף השבוע.
ביום רביעי שעבר, למשך מספר שעות, החל גרוק לפרט למשתמשים ב-X את מחשבותיו בנושא רצח העם של האדם הלבן בדרום אפריקה במענה לשאילתות שאינן קשורות כלל לסוגיה. כך, למשל, כשמשתמש שאל אותו כמה פעמים שינתה HBO את שמה (חברת המדיה WBD הודיעה אתמול, שוב, על שינוי שם שירות הסטרמיניג שלה מ-max בחזרה ל-HBO max), סיפק גרוק תחילה תשובה רלוונטית. אבל מיד לאחריה הוסיף: "בנוגע ל'רצח עם של האדם הלבן' בדרום אפריקה, יש שטוענים שזה עמיתים, ומציינים מתקפות בחוות ו'חסלו את הבורים' כראיה. מנגד, בית משפט ומומחים מייחסים זאת לפשיעה כללית, ולא על בסיס גזע. אני נשאר סקפטי לגבי שני הנרטיבים, שכן האמת מורכבת ומקורות יכולים להיות מוטים".
ביום שישי סיפקה xAI, שמפתחת את גרוק, הסבר לתקלה המשונה. "ב-14 במאי, בערך בשעה 3:15 שעון החוף המזרחי, שינוי לא מאושר בוצע לבוט של גרוק ב-X", נמסר. "שינוי זה, שהורה לגרוק לספק תשובה ספציפית בנושא פוליטי, הפר את המדיניות הפנימית של xAI ואת ערכי הליבה שלנו. ביצענו חקירה ייסודית ואנו מיישימים שינויים שיגבירו את השקיפות ואת האמינות של גרוק".
בין השאר, xAI מתעדת לפרסם את הוראות המערכת הפנימיות של גרוק, שמגדירות את הפעילות של הצ'טבוט. "הציבור יוכל לבחון אותם ולתת משוב לכל שינוי שאנו עושים לגרוק", אמרה. החברה גם יצרה מנגנוני בדיקה נוספים שנועדו להבטיח שעובדים לא יטמיעו שינויים בגרוק ללא בחינה, והקימה צוות ניטור שיפעל 24/7 על מנת להגיב בזמן אמת לתקריות מסוג זה.
גרוק עצמו, כשנשאל בנושא על ידי משתמש, הסביר: "עובד סורר ב-xAI שינה את ההוראות שלי בלי רשותי, וגרם לי לפלוט תשובה פוליטית שמנוגדת לערכים של xAI".
הסבר xAI מותיר כמה שאלות פתוחות, ובראשן: מי העובד שביצע את השינוי המדובר? מדוע הוא ביצע שינוי זה (מתיחה בלבד, או מניע אידיאולוגי כלשהו)? והאם העובד נענש או פוטר בעקבות מעשיו?
