OpenAI חשפה קמפיין השפעה רוסי שקידם "מכון מחקר" ישראלי פיקטיבי
נקודות עיקריות.כלכליסט AI
- חברת OpenAI חשפה קמפיין השפעה רוסי שעשה שימוש בכלי בינה מלאכותית כדי לקדם מכון מחקר פיקטיבי בשם IBI שהוצג כגוף ישראלי.
- הפעילות כללה יצירת פוסטים ותגובות ברשתות החברתיות שנועדו להסוות את המקור הרוסי, להלל את רוסיה ולבקר מדינות מערביות באמצעות תוכן אקדמי מועתק ומדדים מזויפים.
- הערכת החברה היא כי השפעת הקמפיין על הקהל הרחב הייתה מוגבלת, אך הוא ממחיש את היכולת להשתמש בבינה מלאכותית לבניית תשתית הסברה הנחזית לסמכותית ואמינה.
OpenAI חשפה קמפיין השפעה רוסי שניצל את יכולות ה-AI שלה על מנת לקדם "מכון מחקר" ישראלי פיקטיבי בשם International Burke Institute (IBI). "מה שהחל כחקירה של פוסטים במדיה חברתית שג'ונרטו באמצעות AI, הוביל לחשיפת קמפיין השפעה רחב הרבה יותר, שנבנה סביב אתר שהכיל עבודה אקדמית מועתקת, 'אינדקס ריבונות' שהציג את רוסיה באור חיובי, ומאמצים להסוות את המקור הרוסי של הפעילות", נמסר בדוח שפרסמה אתמול החברה.
קמפיין ההשפעה נחשף לאחר ש-OpenAI זיהתה (וחסמה) מקבץ של חשבונות ChatGPT, שהמפעיל שלהם כתב ברוסית פרומפטים לג'ינרוט פוסטים ותגובות בסאבסטק, טלגרם, X (לשעבר טוויטר), פייסבוק ולינקדאין. "רוב התגובות היו באנגלית, והמפעיל ביקש להסוות סימנים בלשניים למקור הרוסי. אנחנו לא מתירים גישה למודלים שלנו מרוסיה, ונעשה שימוש ב-VPN כדי לגשת לפלטפורמה שלנו", נמסר מהחברה.
מרבית התוכן שג'ונרט ביקש לקדם את מכון המחקר הפיקטיבי IBI. אתר המכון טוען שהוא מבוסס בישראל, ורבים מהמאמרים שפורסמו בו הועתקו למעשה מפרסומים אקדמיים אמיתיים, תוך ייחוס מוטעה. אחרים נכתבו בשפה סלאבית ותורגמו אוטומטית לאנגלית. הפרסום הבולט ביותר באתר המכון היה "אינדקס ריבונות" שנועד להלל את רוסיה ולפגוע במדינות מערביות.
השימוש העיקרי ב-ChatGPT היה לצורך יצירת פוסטים שקידמו את המכון. "חלק פורסמו על ידי חשבונות שכללו את השם והלוגו של IBI, אחרים הגיעו לכאורה ממשתמשים רגילים (כנראה פיקטיביים), שעיקר פעילותם היתה פרסום פוסטים של IBI", מסרה OpenAI. "בנוסף, המפעילים ג'ינרטו תגובות לפוסטים של משתמשים אמיתיים בסאבסטק במגוון נושאים. התגובות כללו לרוב בקשה לעקוב אחרי הערוץ של IBI בפלטפורמה ופורסמו על ידו".
בנוסף, אחד המפעילים ג'ינרט פוסטים בגרמנית שפורסמו בערוץ הטלגרם Lahme Ente (ברווז צולע), ומתחו ביקורת על אוקראינה, האיחוד האירופי וממשלת גרמניה. מפעיל אחר ג'ינרט לוגואים לכתריסר ערוצי טלגרם, כולל ברווז צולע, שהתמקדו בגרמניה, ארה"ב, צרפת, פולין וטורקיה. חלק מערוצים אלו כללו פרסומים של IBI.
פעילות ה-AI שזיהתה OpenAI היתה רק פעילות משלימה לעבודת הליבה של קמפיין ההשפעה, שהיתה הפעלת מכון המחקר הפיקטיבי. אתר IBI טען שמדובר ב"קהילת מומחים" עצמאית שפועלת מישראל, בה חברים מומחים בעלי שם עולמי כמו פרנסיס פוקויאמה ונועם חומסקי.
אבל בחינה מדגמית של 36 מאמרים שפורסמו באתר שביצעה החברה, העלתה ש-34 מהם הועתקו ממקומות אחרים. "חלקם היו בני כמה שנים; אחרים יוחסו למחברים שגויים. לדוגמה, מאמר אחד על המסדרון הכלכלי סין-פקיסטן הועתק מפרסום של הוצאת אוניברסיטת קיימברידג', ויוחס באופן שגוי לפרופסור מאוניברסיטת נוטינגהם. התנהגות זו מצביעה על שאיפה להקנות ל-IBI תדמית יותר לגיטימית באמצעות שילוב תוכן אותנטי".
לצד המאמרים, אתר IBI כולל דוחות על הריבונות של מדינות שונות ודירוגן ב"אינדקס ריבונות". מרבית הדוחות, שלא ג'ונרטו ב-AI, כללו ביקורת על מדינות מערביות. למשל, על ארה"ב נכתב: "טראמפ הגיע לבייג'ינג עם אינדקס ריבונות מספר 1 בעולם ועזב לאחר שנקט כמה צעדים שיכולים להיחשב כפגיעה באוטונומיה". על צרפת נכתב שאחרי עשור של שלטון מקרון, המדינה "נפתחת כמו כספת ונמכרת בחלקים".
לדברי OpenAI, יש עדויות מקוונות לכך שגורמים בישראל הזכירו או ייצגו את IBI במאמרים שמסרו לפרסום ובוועידות שבהן השתתפו. "אנחנו לא יכולים לקבוע מה מערכת היחסים בין פרטים אלו, IBI והמפעילים ברוסיה", אמרה החברה.
חרף זאת, OpenAI מעריכה שההשפעה של הקמפיין היתה מוגבלת: הפוסטים שפורסמו רשמו מספר צפיות נמוך, ולחשבונות IBI היה מספר מנויים קטן. ערוצי הטלגרם של הקמפיין רשמו בין 10,000 ל-20 אלף עוקבים. "החשיבות של הקמפיין נמצאת פחות בקהל שאליו הגיע, אלא יותר בתשתית שבנה", נמסר. "בשעה שהמפעילים השתמשו ב-ChatGPT רק כדי לג'רנט פוסטים מבודדים, פוסטים אלה הפנו למוסד אמין למראה, עם מומחים לכאורה, עבודות אקדמיות שפורסמו מחדש ובמדד ייחודי לכאורה. הדבר ממחיש כיצד גורמי השפעה יכולים להשתמש ב-AI ככלי מסייע במסגרת מאמץ רחב יותר לייצר סמכות, לטשטש את מקורם של נרטיבים מועדפים ולבסס נכסים שניתן יהיה להרחיב את היקפם לאורך זמן".
