צבא ה־AI של טראמפ כובש את טיקטוק
הם נראים כמו משתמשים רגילים שמצלמים סרטונים יומיומיים, אך למעשה מדובר בדמויות שנוצרו ב־AI כדי לקדם תעמולה פוליטית ולטשטש את הגבול בין אמת לפייק. התופעה כבר מעוררת חשש להשפעה על הבחירות בארה"ב ועלולה לזלוג גם לישראל
בסוף ינואר שיתף דונלד טראמפ סרטון טיקטוק זועם שתוקף את מושל קליפורניה גאווין ניוסם, מתמודד אפשרי בפריימריז הדמוקרטיים לבחירות 2028. המשפיענית בסרטון, פרננדה פרז, צעירה נאה עם שיער בלונד פלטינה ועיניים ירוקות, מעלה האשמות שקריות על מזימה להלבנת כספי קרטלים שבה היה מעורב משרדו של המושל. "קליפורניה מנוהלת בפועל על ידי פושע", היא תוקפת. "המדינה הופכת לגן עדן לקרטלים".
הטענות של פרז שקריות לחלוטין. פייק ניוז. אבל מה שיותר פייק מהטענות הוא פרז עצמה. כי לא מדובר במשפיענית טיקטוק אותנטית, אפילו לא באדם אמיתי. פרז היא יציר AI טהור. אדם שלא היה קיים מעולם, ושדמותה, קולה והדברים שבפיה נוצרו כולם על ידי מודלי AI מתקדמים. והיא לא לבד.
תחקיר של “הניו יורק טיימס” חושף שבחודשים האחרונים, לקראת בחירות אמצע הקדנציה בנובמבר, החלו לפעול בטיקטוק מאות משפיענים תומכי־טראמפ שנוצרו באמצעות AI, ומקדמים מסרים נגד "השמאל הרדיקלי" ובעד טראמפ ותומכיו.
הם נראים כמו משתמשים לכל דבר (אם כי אולי נאים יותר מהממוצע), ולא אומרים דברים שלא נשמעו על ידי משתמשים אמיתיים. אבל מינוף ה־AI ליצירת רשת המשפיענים הזו מייצג איום חדש על הליך הבחירות התקין, וצריך לעורר סימני דאגה גם לקראת הבחירות לכנסת שצפויות בישראל בחודשים הקרובים.
חלק מקמפיין של טראמפ או יוזמה עצמאית?
לפי “הניו יורק טיימס”, מאז שהעיתון החל לנטר את הפעילות של חשבונות ה־AI בטיקטוק בינואר, הוא זיהה לפחות 304 חשבונות כאלו, חלקם נעלמו מאז. חוקרים באוניברסיטת פרודו זיהו תריסר חשבונות נוספים בטיקטוק, אינסטגרם ופייסבוק. אריק נלסון, אנליסט בחברת Alethea, זיהה תשעה חשבונות AI ביוטיוב. חלק מהחשבונות צברו 35 אלף עוקבים, ופוסטים של חלקם צברו יותר מחצי מיליון צפיות.
החשבונות עצמם מתחזים לאנשים מהשורה, במיוחד נשים צעירות ונאות, אבל גם גברים בגיל העמידה, עובדי תברואה, חיילים במדים או אנשי אכיפת חוק. הם "מצולמים" בסביבות יומיומיות — הבית, הרכב, מקום העבודה, בחוץ. גם התכנים עצמם יכולים להיות די שגרתיים.
בפוסט ש”הניו יורק טיימס” זיהה בעשרה חשבונות לפחות נאמר: "השמאל אומר שרפובליקנים לא מאוחדים... זה מצחיק, כי אני מתערב שאני יכול לגרום לתומך טראמפ מכל מדינה להגיב" (הפוסט נועד לגייס עוקבים לצורך הפצת מסרים עתידית). בסוג נוסף של פוסטים מכריזה המצולמת (בלונדינית במסלול ריצה, ג'ינג'ית במגרש כדורסל, ברונטית באיצטדיון): "אם אתה תומך בטראמפ, יש לך חברה", בתוספת הכיתוב: "אני חדשה כאן ואוהבת את אלוהים, אמריקה, וטראמפ!!".
אף שרבים מהחשבונות התמקדו במניפולציה פוליטית, אחרים עסקו יותר בקידום העוקבים והחשיפה שלהם, או שהיו חלק ממזימות הונאה רומנטית או מכירת מוצרים מפוקפקים. לרבים מהחשבונות הפוליטיים היו דימויים, תמונות פרופיל, שפה, אפקטים ואפילו אוואטרים משותפים. דמות של אפרו־אמריקאית עם שיער מתולתל ארוך, משקפי שמש גדולים וכובע MAGA אדום המופיעה בכמה חשבונות, מפיצה מסרים תומכי טראמפ דומים או זהים.
בשלב זה לא ברור מי עומד מאחורי רשת החשבונות. ייתכן שזהו קמפיין השפעה זרה, חלק מקפיין הבחירות של טראמפ או המפלגה הרפובליקנית, יוזמה עצמאית של גוף שתומך בטראמפ, או סתם ניסוי כלים.
הקלות שבה מודלי AI מאפשרים ליצור דמויות אלו, במהירות ובקנה מידה גדול, מאפשרת כמעט לכל אחד, עם ידע בסיסי והשקעה מינימלית של זמן וכסף, ליצור אותן ולהפיץ את המסרים שלהן במדיה חברתית.
בטיקטוק אמרו ל”ניו יורק טיימס” שבחינת חשבונות ה־AI העלתה "אפס אינדיקציות למבצעי השפעה חשאיים", ושסביר יותר שמדובר בחשבונות של ספאמרים. הפלטפורמה הבטיחה להסיר את החשבונות.
עם זאת, הערכה סבירה אחרת היא שמדובר ביוזמה שנועדה לגבש ולהמריץ מצביעים שמרניים לקלפי בנובמבר. “הניו יורק טיימס” והחוקרים לא מצאו רשת דומה שפונה למצביעי שמאל. "בשעה שאנשים נערכים לבחירות אמצע הקדנציה, הם צריכים לצפות לראות חלק מהתוכן הזה בחשבונות שלהם", אמרה ד"ר קיילין ג'קסון שיףמאוניברסיטת פרודו. "ייתכן שעם תוכן שעוצב במיוחד על מנת לרגש אותם או למשוך אותם לפעילות".
חשבונות ה־AI מייצגים איום חדש על הליך הבחירות. במערכת הבחירות הקודמת, החשש העיקרי היה סביב שימוש ב־AI ליצירת סרטונים או תמונות של אירועים מזויפים על מנת להשחיר או להעצים את אחד היריבים. טראמפ עצמו נוהג לשתף במדיה החברתית יצירות AI שמעצימות את דמותו (רק לאחרונה, שיתף תמונה שלו בדמות ישו).
הפלטפורמות מתקשות לזהות את הזיוף
נכון לעכשיו, החשבונות לא מנצלים את ה־AI על מנת לזייף אירועים שלא קרו ולמעשה לא אומרים או עושים דבר שלא ניתן לעשות ללא שימוש בבינה מלאכותית. נראה שמדובר במאמץ לייצר רשת גדולה של חשבונות בעלי מראה אותנטי, באופן שיאפשר ברגע האמת להציף את קהל היעד בשורה של מסרים פוליטיים רלבנטיים שמגיעים לכאורה מאנשים רגילים. "הם מנסים להפיץ מסרים פוליטיים וליצור אשליה של קונצנזוס", אמר אנדרו יון מארגון CivAI, שפועל לחינוך הציבור לגבי יכולות והשלכות ה־AI. "זו הצפה של האזור עם טונותשל סרטונים שנועדו לתת תחושה מוטעית של דעת הרוב".
מבחינה השיטה הבסיסית, חשבונות ה־AI לא המציאו משהו חדש. משתמשי מדיה חברתית, כולל בישראל, כבר מכירים היטב את הפעילות של רשתות חשבונות בפלטפורמות כמו X (לשעבר טוויטר), שמקדמות ומפיצות מסרים שתומכים במפלגה או מנהיג כלשהם, ולא מבוססים על פעילות של משתמשים אותנטיים. בישראל פעמים רבות מזוהה פעילות של רשתות אלו עם תמיכה בליכוד ובבנימין נתניהו.
אבל המינוף של AI מספק לשיטה זו אמינות גדולה יותר. סרטון יכול להיות משכנע יותר ולהיראות אותנטי יותר מהודעת טקסט. אם הוא עשוי בצורה טובה מספיק, משתמשים רבים יכולים ליפול בפח. המחיר הנמוך של יצירת דמויות וסרטונים אלו (לפי הערכות, בין דולר ל־3 דולרים לדמות) מאפשר לעשות זאת בקנה מידה גדול ובאופן שייצור אשליה של תמיכה עממית רחבה. רשת כזו יכולה להיות יעילה מאוד גם בלי הפצת מסרים שקריים, ולסייע בהמרצת בוחרים לקלפיות ברגע האמת.
הסכנה במערכת הבחירות בישראל גדולה במיוחד, שכן ניתן לבסס את חשבונות ה־AI על התשתית הקיימת של רשתות החשבונות המזויפים שתומכים בליכוד ובנתניהו על מנת ליצור מראית־שווא של מערך תומכים נלהב שאינו קיים במציאות. החולשה של שומרי הסף בישראל — הפרקליטות, ועדת הבחירות המרכזית — תקשה על התמודדות עם הרשתות האלו בצורה יעילה. הבעיה הופכת למורכבת עוד יותר לאור העובדה שגם הפלטפורמות עצמן אינן מסוגלות, וייתכן גם שאינן מעוניינות במידה רבה, לזהות את חשבונות ה־AI בצורה יעילה ומהירה.
במטא אמרו ל”ניו יורק טיימס” שהם אומנם מחייבים חשבונות לגלות שימוש ב־AI בסרטונים שנראים אמיתיים, אך קשה לזהות תוכן מג'ונרט, והקושי מתגבר ככל שהטכנולוגיה מתפתחת. אולם חשבונות אלו מייצרים עוד תעבורה לפלטפורמות, ותורמים להגדלת ההכנסות שלהן מפרסום המייצרת תמריץ שלילי בעבורן להילחם בהם.
מצב זה משאיר בחזית המאבק בעיקר גופים כמו פייקריפורטר וחוקרים עצמאיים שפועלים לחשיפה ומחיקה של חשבונות מזויפים. עם מערכת בחירות יצרית, אולי אפילו אלימה, לא בטוח שיהיה בהם די על מנת לבלום את השטף.
