כולם מדברים על מתקפות AI שיפגעו בטוהר הבחירות המתקרבות. כשאנחנו מדמיינים מתקפה כזו, אנחנו חושבים על דיפ־פייק. קדימון מבהיל לכך קיבלנו יומיים לפני הבחירות של 2023 בסלובקיה, כשברשתות החברתיות הופצה הקלטה שבה נשמע המועמד הפרו־אירופי מיכל שימצ׳קה (Šimečka) מודה בשיחה עם עיתונאית שזייף את הבחירות. אלא שהקול לא היה שלו, הוא שוכפל בכלי AI. ההקלטה התפשטה ברגע קריטי, בתוך "תקופת השקט" שבה לתקשורת הממסדית אסור לדווח, וכך לא היה מי שיפריך אותה בזמן אמת. כשהתברר שמדובר בזיוף כבר היה מאוחר מדי. שימצ׳קה הפסיד.
אבל מתקפת הזיוף הדרמטית בסלובקיה היא הקצה הרועש והגלוי של האיום, שכבר למדנו לזהות. מה שנולד מאז הוא כלים וטכניקות שקטים וזולים בהרבה - ומסוכנים פי כמה. השחקנים הפוליטיים מתחרים בריצת ספרינט לבחירות ה־AI הראשונות בישראל. הם אוספים דאטה, צובעים קהלים ומייצרים מסרים מותאמים אישית. זו תהיה מערכת הבחירות היצירתית והמשבשת (Disruptive) ביותר שהכרנו, בשעה שכלי הבנת המציאות שעומדים לרשותנו נחלשו. בחודשים הקרובים נחווה תנועת מלקחיים עוצמתית של הצפה מבלבלת ומתישה, ובצדה דיוק כירורגי שיתפור מסרים למידותינו.
בלבול במקום שכנוע
המטרה המרכזית היא לבלבל אותנו עד שנפסיק לנסות לדעת. כשהכל עשוי להיות אמת אך גם שקר, והספק נותר תלוי באוויר ללא הכרעה, התוצאה היא רעש משתק. כבר ב־2016 טבע מכון RAND את המונח "שיטפון השקרים" כדי לתאר טכניקת השפעה שמציפה את המרחב במסרים סותרים. הטכניקה מולידה ציניות וגורמת לנו לפקפק בכך שאי פעם האמת תתגלה. עד לאחרונה, הפקת מפעל תוכן כזה היתה עסק יקר. כיום ה־AI מאפשר ליצור אותו בעלות אפסית.
איכות אינה תנאי, וסרטון מרושל עובד מצוין כי הוא מנרמל את גישת ה"הכל ממילא מזויף". לכן הסרטונים שמפיצים קמפיינרים פוליטיים נראים לעתים כתוצר AI חובבני. הרישול אינו תקלה, הוא אסטרטגיה של נפח. כפי שצייץ לאחרונה יונתן אוריך, יועצו של בנימין נתניהו, בתגובה לביקורת על חומרים שהפיץ: "4 סרטונים של 20 שניות ואיזנקוט רוצה עימות... חכו יש עוד 400".
"מי יאמין לזה?" היא השאלה הלא נכונה. בדיקת העובדות מגיעה אחרי שהרכבת יצאה מהתחנה, והערפל שנשאר גורם לעומס קוגניטיבי חריף. העומס הזה מייצר "קריסת קשב", ואז נסוגים לרוב לכללי ההחלטה הזמינים ביותר של זהות: השבט והמפלגה. הוויתור על עצם הניסיון לדעת הוא "הניצחון המוחלט" של השיטפון.
מרגע שהפנמנו שהכל עלול להיות מפוברק, הכלי הבא חזק לא פחות מהזיוף עצמו: היכולת לקרוא לכל אמת "זיוף". תיעוד מביך של פוליטיקאי? די בשתי מילים: בינה מלאכותית - וההוכחה מתאיידת. התופעה נקראת "דיבידנד השקרנים" (Liar's Dividend, מונח שטבעו החוקרים רוברט צ׳סני ודניאל סיטרון ב־2018). לפי מחקר מ־2024, טענה לזיוף בתגובה לחשיפה מעלה את התמיכה בפוליטיקאי בבסיס הבוחרים שלו יותר משתיקה או התנצלות. ראינו את זה במקרה של מאי גולן, מול החשיפה של יוסי מזרחי ב"המבקר" - וזה רק ישתכלל. בחברה חצויה, כל מחנה יפטור ראיות לא נוחות כ"דיפ־פייק" של הצד השני.
הצ׳אטבוט יכוון הצבעה
התוצאה של שני השלבים שתוארו היא ואקום, שבו אי אפשר לסמוך על דבר. אבל ואקום לא נשאר כזה למשך זמן, וכאן נכנסת הזרוע השנייה של המלקחיים - הכירורגית. היא לא פונה להמונים, אלא אליך באופן אישי, ובקולו של הצ׳אטבוט שאתה סומך עליו. לפי נתוני איגוד האינטרנט, כ־25% מהישראלים שוקלים להתייעץ עם מודל שפה בשאלה למי להצביע. זו השפעה מסוכנת דווקא כי היא סמויה מהעין: הבוחר משוכנע שהוא מנהל שיחה אובייקטיבית עם כלי טכנולוגי, בעת שמרחב המידע שממנו המודל ניזון מעוצב מאחורי הקלעים.
אם בעבר הושקעו מיליונים באופטימיזציה למנועי חיפוש (SEO) כדי לטפס לראש תוצאות גוגל, הדור הבא הוא ה־GEO (Generative Engine Optimization). קמפיינרים מציפים את הרשת במאמרים ובציטוטים ממוקדים, כדי שהמודלים יסרקו אותם ויפלטו את המסר הרצוי. כשהמפלגות עצמן יתחילו להפעיל צ׳אטבוטים לשיחה ישירה עם בוחרים כדי לשכנע, האיום ישתכלל. ניסויים הראו ששיחה עם מודל שפה משנה עמדות בוחרים יותר מפרסום מסורתי. היעילות טמונה בכך שהמודל מנהל דיאלוג דינמי ומציף טיעונים בזמן אמת. מודל המאומן לעשות אופטימיזציה לשכנוע לומד במהירות שעובדות חלקיות, המנוסחות היטב ומתחנפות למשתמש, משכנעות הרבה יותר מהאמת המלאה והמורכבת. וכל קמפיין המשתמש במודל שפה למטרות שכנוע יעדיף אפקטיביות על דיוק. שכנוע על אמת.
זיהוי הוא חלק מהפתרון
המרדף אחר האמת אינו אתגר חדש, הוא רק הפך קשה בהרבה. המוסדות שבנינו למשך מאות שנים, ובהם מערכת המשפט והעיתונות, לא היו מושלמים, אך סיפקו מגרש משותף: מקום שאיפשר להסכים על העובדות גם אם לא על משמעותן. כעת הקושי להגיע לאמת הומר בהכחשת קיומה. הרשתות החברתיות כבר שמטו את הקרקע, אך הותירו עוגן אחרון: הראיה. סרטון או הקלטה היו הוכחה. ה־AI חיסל גם את זה. כשכל ראיה עלולה להיות מפוברקת, הרעיון של עולם עובדתי משותף מתאייד. ובישראל הפגיעות עמוקה במיוחד. בחברה פוסט־טראומטית ואחרי מלחמה ממושכת, הבוחר לא מגיע למרחב הציבורי רעב למידע, אלא תשוש. זה הרגע שבו אנו פגיעים ביותר למתקפות, שעלולות להתקבץ לכדי השפעה פוליטית מכרעת.
אמא שלי, למשל, כבר החליטה שלא תצביע, וביטלה כל טיעון שהעליתי. "איך את יודעת שהטיעון הזה נכון?", שאלה, "אולי זו בינה מלאכותית?". אי אפשר להחליט, סיכמה, כי אי אפשר להבחין בין אמת למניפולציה.
הבחירה שלה היתה ויתור, ובוויתור הזה יש להילחם. בשלב ראשון צריך לזהות את התסמינים: תשישות גוברת מול ההצפה, ואז היאחזות במודל חדש ונוצץ שיחשוב במקומנו. חשוב להבין שבזמן קמפיין בחירות, התחושה המייאשת שאין עוד אמת אינה אבחנה על העולם, אלא תסמין של המתקפה. זה בדיוק מה שההשפעה הרכה נועדה לזרוע. אך האמת לא נעלמה, היא רק התייקרה, ומנהלי הקמפיינים מהמרים על כך שנהיה עייפים וציניים מכדי לשלם את המחיר בעבורה.
ההבנה שאנו תחת מתקפה לא מחסנת, אך מספקת מפה לשמירה על חוסן דמוקרטי. לא תמיד נדע מי עומד מאחורי מהלך מסוים, אבל נדע לזהות את צורתו. כל הארכיטקטורה של מתקפת AI נשענת על כך שלא נבחין בניסיון ההשפעה. השכנוע הסמוי יעיל רק כל עוד הוא סמוי. עצם ההבחנה בו מוציאה אותנו, במידה מסוימת, מטווח הפגיעה. איננו יכולים לעצור את מאמצי ההשפעה, אבל אנו יכולים לזהות אותם. ובימים אלה זה לא מעט.
הכותבת היא מנכ״לית Humane AI, מומחית אינטראקציית אדם־AI
