ריאיון
"בבחירות הקרובות מנדטים יזוזו לכאן או לכאן בגלל בוטים"
נקודות עיקריות.כלכליסט AI
- מנכ"ל חברת CHEQ מתריע כי מערכת הבחירות הקרובה בישראל תהיה החמורה ביותר בהיסטוריה מבחינת השפעת בוטים ותוכן מזויף, וזאת בשל התפתחות מהירה של יכולות הבינה המלאכותית המאפשרות לייצר זיופים אמינים בהיקף נרחב.
- השימוש בטכנולוגיית בינה מלאכותית מאפשר דמוקרטיזציה של בניית צבאות בוטים, יצירת סוכנים דיגיטליים המחקים התנהגות אנושית כמעט לחלוטין והפצה מהירה של אלפי פוסטים שונים המנצלים את אלגוריתמי הוויראליות ברשתות החברתיות.
- הפלטפורמות החברתיות מתקשות להתמודד עם היקף התופעה, כאשר לפי המרואיין רשת X מהווה את המוקד המרכזי לתוכן מזויף, בעוד חברות כמו גוגל מצליחות לספק הגנה חלקית בלבד.
- הפתרון המרכזי המוצע להתמודדות עם האיום הוא החלת רגולציה ממשלתית שתחייב אתרי חדשות ורשתות חברתיות לאמץ טכנולוגיות לזיהוי הונאה והתנהגות לא אנושית, שכן לאזרח הפרטי כמעט אין כלים להתגונן באופן עצמאי.
גיא טיטונוביץ', מייסד ומנכ"ל CHEQ, שמגינה על ארגונים מפני פעילות לא אנושית ברשת, בתחילת החודש המשטרה שלחה לחברות טק התרעה שעליהן להיערך למתקפות בוטים ופייק ניוז בבחירות. עד כמה זה מדאיג?
"המשטרה מדי פעם שולחת התרעה של 'חברות, היזהרו, בוטים, מתקפות', במיוחד סביב אירועים פוליטיים, כמו בחירות. כל פעם אני אומר להם: 'רגולציה, רבותיי'. בוטים כולם יכולים לבנות, וזה מאוד קל, במיוחד בעידן ה־AI. אף אחד לא מזיז אצבע בשביל למנוע מכוחות אפלים להשפיע על דעת קהל. אויבינו עכשיו הולכים להציף בפייק ניוז את טוויטר ואת יתר הפלטפורמות, גם אתרי חדשות, שכוללים אלמנטים של תוכן גולשים כמו טוקבקים או סקרים”.
מה נראה במערכת הבחירות הקרובה?
"בעשור האחרון במדינות המערב, אירועים פוליטיים נקבעים גם באמצעות קמפיינים של השפעה שהכלי העיקרי בהם הוא בוטים. בעידן ה־AI זה חריף פי כמה. לכן במערכת הבחירות הזאת יהיו קולות שיזוזו לכאן או לכאן בגלל תוכן מזויף שהופץ על ידי בוטים".
אתה מעריך שכבר במערכת הבחירות הקרובה בוטים יזיזו מנדטים?
“בוודאי, זה יקרה עם עשרות או מאות אלפי קולות, ומנדטים יזוזו בגלל מכונת רעל כזאת או אחרת. זו מערכת הבחירות הראשונה בישראל שבה ה־AI חזק כל כך. הטכנולוגיה הזאת משתפרת במהירות שלא ראיתי בשום תחום אחר: מה שלפני חצי שנה היה מדהים, היום הוא מיושן. היכולת לייצר זיוף בהיקף גדול ולהפיץ אותו עם בוטים חזקה לאין ערוך ממה שהיה במערכת הבחירות הקודמת לפני ארבע שנים. ההשפעה של הכלים האלה על מערכת הבחירות הנוכחית תהיה החמורה ביותר בהפרש ניכר בהיסטוריה הפוליטית הישראלית.
"אנחנו רואים מיליארדי אינטראקציות ביום מרחבי העולם. השוק העיקרי שלנו כחברה עסקית הוא ארה"ב, ושם זה ממש נייר לקמוס הטוב ביותר: תנועת הבוטים ברשתות החברתיות קופצת פי שלושה או ארבעה חודש לפני אירוע פוליטי. אנחנו עדיין לא חודש לפני הבחירות בישראל, אז אנחנו עדיין לא רואים שינוי, אבל אנחנו מתארים לעצמנו שזה תכף יגיע".
למה אנחנו צריכים לצפות בחודש שלפני הבחירות?
"הדבר הראשון והכי ברור שרואים זה קפיצה באחוזי הבוטים בתנועה שמגיעה מאתרי חדשות ורשתות חברתיות. למשל התנועה שמגיעה לדיסני, אם אתמול היתה כמות מסוימת של משתמשים שמתוכם 20% הם בוטים, עכשיו אתה פתאום רואה 60% בוטים".
מה זה אומר שיש יותר בוטים?
"זה האיתות הראשון. אנחנו רואים את זה תמיד במתאם למערכות פוליטיות במערב, כולל בישראל. אתה צריך לשאול את עצמך, למה פתאום יש כזאת עלייה חדה של תנועה לא אנושית? בגלל שאני לא יושב על טוויטר או פייסבוק, אני לא יכול להגיד מה בדיוק הם עושים שם, אלא רק שהם הרבה יותר פעילים. מניסיוני במערכת הביטחון, העלייה החדה הזאת היא סביב מניפולציה על דעת הקהל — ספציפית בטוקבקים, מילוי סקרים, וברשתות החברתיות זה להשתמש באפקט הוויראליות כדי לקדם פוסטים מסוימים. בחלק מהמקרים זה פנים־מדינתי (מפלגה אחת שעושה את זה למפלגה אחרת), ובהרבה מאוד מקרים, למשל בארה"ב, זה כמעט לא פנימי אלא בעיקר השפעה זרה כמו סין ורוסיה.
"אני אתן כמה דוגמאות. דוגמה אחרת היא סקרים: סקרי מנדטים או סקרים שתוצאותיהם אפילו לא מתפרסמות. יש אתר חדשות ישראלי מוכר שמפרסמים בו כל יום סקרים בלי לציין מטעם מי הם. הסקרים כוללים שתיים-שלוש שאלות, ואתה לא מקבל את התוצאות בסוף. השאלות יכולות להיות: 'האם אתה חושב שההכרזה של עופר וינטר על הקמת מפלגה תפגע בסיכוי של ביבי להקים ממשלת ימין?' התוצאות לא מתפרסמות, אבל זה הולך למישהו שאוסף את המידע, ויש אנשים שרוצים לגרום לאותו גורם לקבל תמונה מוטעית.
"דוגמה נוספת מהרשתות החברתיות, שהיא בהפרש ניכר מקרה השימוש הגדול ביותר, היא ניצול של אפקט הוויראליות: להוציא פוסט של פייק ניוז. היום נורא קל לגרום לפוסט כזה להיראות אמין באמצעות דיפ פייק, למשל לייצר סרטון שבו ביבי מודה בקולו ודמותו שהוא היה מצביע ליאיר גולן, וזה ייראה אמיתי. אם אתה רוצה שהפוסט יגיע למאות אלפי אנשים, אתה בסך הכל צריך לגרום להרבה מאוד חשבונות מזויפים, בוטים וסוכני AI שנראים ממש כמו משתמשים אמיתיים, לעשות לייק, שיתוף מחדש, פרסום והעברה הלאה. האלגוריתם מזהה שזה פוסט שאנשים מגיבים עליו וכדאי לקדם אותו, וככל שאלגוריתמי הוויראליות מקדמים את זה, יותר אנשים מקבלים תמונה לא נכונה".
לרשתות חברתיות אין דרכים לזהות פעילות לא אותנטית, ולא לתת להם במה?
"לחלקן יש. ליוטיוב של גוגל יש צוות וטכנולוגיה פנימית שעושים עבודה לא רעה, אבל הם לא מצליחים לכסות הכל. לפייסבוק יש גם צוות פנימי והם לא מצליחים לכסות אפילו קמצוץ. בסופו של דבר יש את X, שזה ביב שופכין של התוכן העולמי, ושם הם גם לא ממש מנסים מאז שאילון מאסק קנה אותם”. בכל מקרה, זה מאוד קשה למנוע את התופעה. כשאתה יוטיוב, גוגל, פייסבוק או X, אתה ברווז במטווח. התוקף יודע בדיוק מול מי הוא נלחם וגוגל לא יכולה להתחבא, ולכן קל יותר לתוקף להצליח נגדו מאשר מול מטרה נעה. יש להם עבודה קשה והם בפירוש לא מצליחים לעמוד בה, וכשמדובר באתרי חדשות, רובם בכלל לא מנסים".
מה ההשפעה של AI על העולם הזה?
"ההשפעה היא בהמון חזיתות. ראשית, דמוקרטיזציה של יכולות טכנולוגיות: לפני חמש שנים כדי לעשות בוטים היית צריך לדעת לתכנת או לשלם למישהו שיודע. היום אתה רק צריך לדעת לדבר שפה (אנגלית, עברית). נורא קל לבנות צבא בוטים באמצעות AI. שנית, תחכום הסוכנים: סוכן AI נראה הרבה יותר כמו בן אדם מאשר הבוט הישן. AI מאפשר לסוכן לחקות פעילות אנושית, להזיז עכבר בצורה אנושית ולזייף התנהגות, מה שמקשה מאוד על חברות לזהות אותם כמשתמשים לא אנושיים. שלישית, ייצור תוכן בהיקף עצום: זה לא רק שהתוכן נשמע הגיוני יותר מתרגום אוטומטי, אלא שבלחיצת כפתור אפשר לייצר עשרת אלפים פוסטים שונים, כולל וידאו וטקסט, ולהפיץ אותם. זה כבר לא העתק-הדבק של אותה תגובה שמופצת שוב ושוב, אלא כל פוסט נשמע מקורי לחלוטין".
ועדת הבחירות המרכזית הודיעה שמפלגות ופוליטיקאים שמייצרים תכנים באמצעות AI חייבים לסמן אותם. תהיה לזה השפעה או שזה בשוליים?
"אני רוצה להאמין שבישראל ובדמוקרטיות מערביות זה פועל, כי אנשים מצייתים לחוק. חוק כזה יכול לעבוד טוב, אבל הוא רלוונטי רק לפנים־ארצי. אם קטאר או טורקיה רוצות מחר בבוקר להפיץ וידאו שיקדם מועמד מסוים, הן לא כפופות לרגולציה הזאת".
האם הייתה לזה השפעה ממשית על מערכות בחירות או שזה יותר יוצר פילוג, מערער את היסודות הדמוקרטיים ופוגע באמון?
"אני לא יודע. אני כן יכול להגיד שבאירועים לא פוליטיים, למשל אחרי 7 באוקטובר, ראינו המון טוקבקים ופוסטים שנכתבו כאילו על ידי ישראלים במטרה לפגוע במורל הלאומי. זו אולי לא הסטה של שני מנדטים מצד לצד, אבל זו דוגמה לאיך השפעה זרה עובדת: פוסטים, לדעתי טורקים, איראנים וקטארים, שנחזו לישראלים שכותבים דברים אובדניים לאומית בסגנון 'הלך עלינו, זה קץ המדינה'. ראינו באופן חד־משמעי שלא ישראלים כתבו את זה. דוגמה נוספת הייתה סביב קידום קטאר. הקטארים השתמשו בהמון אמצעים כדי לייצר תכנים שיגרמו לציבור לחבב אותם, וזה עובד. יש גם מתקפות שמשתמשים בהן בבוטים כדי לשבש את הסדר הציבורי".
בתור משתמש, איך אני יכול למגן את עצמי מול בוטים כאלה?
"זה הדבר הכי מאתגר. לתפיסתי, כמו בהרבה מקרים שבהם האזרח הפרטי נמצא בסיכון, המדינה צריכה להגן עליו כמיטב יכולתה. חוץ מלהיות ספקן לגבי כל מה שהוא רואה ברשת, האזרח הפרטי לא יכול לעשות כלום".
אני יכול לקחת פוסט שאני חושד בו, לזרוק אותו לג'מיני או ל־ChatGPT ולשאול אם זה אמיתי, פייק או בוט?
"ג'מיני ודומיו בחיים לא ידעו להגיד אם זה אמיתי או לא. כשביבי אמר באחת ממערכות הבחירות שהערבים נוהרים לקלפיות, ג'מיני היה יודע להגיד לך אם זה נכון או לא? ברוב הדברים האלה ה-AI לא יכול לעזור. ChatGPT בעצמו לא יכול ברוב המקרים לזהות תוכן שנוצר על ידי ChatGPT.
יש לגוגל את SynthID (טכנולוגיה שמסמנת תוכן שנוצר או עובד על ידי ג'מיני).
גיא טיטונוביץ’ (41)
מגורים:
תל אביב
מצב משפחתי:
נשוי +2
תפקיד:
מנכ”ל ומייסד CHEQ
בעבר:
מנכ״ל ומייסד אדזוק וקומבוטאג, בוגר תוכנית חמ”ן תלפיות של צה”ל
"נכון, ו־Anthropic שחררה תוכן שהוא עם סימן מים דיגיטלי בצורה מסוימת, אבל אנחנו עדיין מאוד רחוקים מהיכולת המלאה לזהות את זה. מה שכן, ב־X יש את הערות הקהילה, שמנוהלות על ידי AI. גם בזה אפשר לבצע מניפולציה באמצעות בוטים: משתמשים כותבים מה נכון ונותנים תימוכין, ובוטים בעידן ה־AI יכולים לעשות את זה בדיוק ולעוות את הערות הקהילה. המדינה והאתרים השונים אמורים להגן על האזרח, והדרך היחידה לעשות זאת היא ברגולציה. המדינה יכולה להגן באמצעות רגולציה לחייב כל אתר שיש בו תוכן שנוצר על ידי משתמשים לאמץ טכנולוגיות לזיהוי הונאה והתנהגות לא אנושית. בארה"ב עובדים על רגולציה כזאת, בישראל עדיין לא.
“כל מה שאנחנו צריכים זה שהמחוקק או הרגולטור יחליט לפתור את זה. ברגע שאתרי החדשות והרשתות החברתיות יחויבו ברגולציה (אם מעבירים כזו בישראל, פייסבוק ו־X יחויבו ליישם אותה בישראל) ויאמצו טכנולוגיות שפותרות את הבעיה — היא תיפתר. פשוט צריך להכריח את הגורמים האלה להתחסן. זה פתיר".
