הדרך של מאסק להילחם בפייק ניוז ב־X עוברת בארנק
בצעד נדיר פלטפורמת X נקטה השבוע מהלך להגבלת התפוצה של פייק ניוז: מי שיפרסם וידיאו מג’ונרט של עימות חמוש בלי הבהרה שמדובר ב־AI — יושעה מתוכנית חלוקת ההכנסות. הבעיה העיקרית: זה לא ירתיע את זורעי הדיסאינפורמציה שמניעיהם אינם כספיים
פלטפורמת X (לשעבר טוויטר) של אלון מאסק בצעד נדיר: ביום שלישי השבוע, בעקבות המלחמה נגד איראן, היא עשתה מהלך להגבלת התפוצה של פייק ניוז ודיסאינפורמציה. מאז תחילת המלחמה הפכה X לזירה מרכזית להפצת שקרים ומידע מעוות באמצעות AI שיוצר דימויים ריאליסטיים משכנעים. לא פעם יוצרי הסרטונים הללו עושים זאת במטרה להגדיל את התעבורה לפוסטים שלהם, ולקצור הכנסות באמצעות תוכנית השותפים של X, שבמסגרתה יוצרי פוסטים מקבלים תשלום מהפלטפורמה.
הפתרון של X? משתתף שיפרסם וידיאו מג'ונרט של עימות חמוש בלי לפרסם הבהרה שמדובר ב־AI יושעה מתוכנית חלוקת ההכנסות ל־90 יום, כלומר לא יוכל לקבל תשלום על הפוסטים שלו במשך כשלושה חודשים, והפרות נוספות יביאו להשעיה קבועה מהתוכנית. “במהלך מלחמה זה קריטי שתהיה לאנשים גישה למידע אותנטי”, אמר מנהל המוצר של X, ניקיטה ביר, בפוסט שפרסם, שבו הודיע על המדיניות החדשה. “נזהה פוסטים באמצעות הערות קהילה או אם התוכן מכיל מטא־דאטה (או סיגנלים אחרים) של כלי AI גנרטיביים”, הוא הוסיף.
השאלות כעת הן האם המדיניות החדשה אכן תבלום התפשטות של תכנים כאלה? האם צירוף הבהרה שמדובר בתוכני AI יהיה מספק כדי לזהות את התכנים כמזויפים? האם מדיניות של שלילת הכנסות היא תחליף ראוי למדיניות של ניטור והסרת תכנים מזויפים?
מאז ש־X נרכשה בידי מאסק, בחסות מדיניות הפרסום המקלה שלו, הפלטפורמה הפכה לחממת פייק ניוז, במיוחד בעת אירועי קיצון. אחת הדוגמאות הבולטות בסבב הנוכחי מול איראן היא פוסט של כלי התקשורת הממשלתי טהראן טיימס שבו נראית תמונת לוויין אמיתית מלפני כשנה של מערכת מכ"ם אמריקאית בקטאר, כשבאמצעות AI המערכת מוצגת כהרוסה ולצדה האמירה כי מדובר בתוצאה של מתקפה איראנית. סימני זיוף בולטים שמעידים על התערבות AI: מכוניות שחונות באותו מיקום וכיווני צל זהים. חרף זאת, הפוסט רשם כבר קרוב למיליון צפיות ויותר מאלף שיתופים — והוא עדיין באוויר. אף שגולשים רבים מציינים בתגובות שמדובר בזיוף, הפוסט לא הוסר ולא כולל הערות קהילה שמבהירות זאת.
קושי לזהות זיופים
"אנשים נוטים לייחס אמינות גבוהה לצילומי לוויין בגלל הטכנולוגיה המורכבת שכרוכה ביצירתם", אמר ל”פייננשל טיימס” האנליסט העצמאי בריידי אפריק. "אבל לצילומי לוויין ניתן לבצע מניפולציה בדיוק כמו לתמונות אחרות. AI הפכה את כל זה לקל להדהים, ומדובר באיום משמעותי לאנשים שמנסים למצוא מידע מקוון. שיפורים מהירים במודלים אלו עלולים רק להקשות עוד יותר על זיהוי זיופים בקונפליקטים עתידיים".
הנק ואן הס, מומחה לשיטות מחקר דיגיטליות ומפעיל הניוזלטר Digital Digging, הוסיף שכאשר מדובר בתמונות לוויין, יש קושי מיוחד לזהות זיופי AI בגלל היעדר "מזהים ביומטריים" שניתנים להבחנה בקלות כאשר מדובר בזיופים של בני אדם: "עם פנים, אפשר לחפש מצמוץ מוזר, מרקם עור לא טבעי, אוזניים מעוותות. בתמונות לוויין מסתכלים על בניינים, כבישים, תוואי שטח — דברים שאין להם מזהים פשוטים, ולרוב האנשים אין מושג איך תמונת לוויין אמיתית אמורה להיראות מחיישן מסוים או ברזולוציה מסוימת. השינוי המשמעותי הוא שבעבר נדרשו כישורי פוטושופ כדי לזייף תמונת לוויין. עכשיו כל אחד עם גישה לכלי AI חופשיים יכול ליצור משהו משכנע שישטה במשתמשים מהשורה ויניע שווקים. החסם קרס".
לפעמים הזיופים יכולים להיות עדינים יותר אך עדיין משמעותיים, למשל תמונות לוויין בשחור־לבן או ברזולוציה נמוכה, שבאמצעות AI משודרגות לתמונות בצבע (או עם יותר צבע) וברזולוציה חדה יותר. "שימוש ב־AI להוספת צבע לתמונות לוויין יכול לשנות את האופן שבו אנשים תופסים את הסצנה, ואת מה שאירע שם", אמר ל”פייננשל טיימס” פרופ' בו ז'או מהמחלקה לגיאוגרפיה באוניברסיטת וושינגטון. "תמונות שחור־לבן לא כוללות פרטים ופרספקטיבה על דברים והבדלים בקרקע. עם צבע, יותר קל להבדיל בין פרטים".
זייפנים משתמשים ב־AI גם כדי להעצים אירועים. תמונה אמיתית של עשן מיתמר מבסיס אמריקאי בעיראק אחרי התקפה איראנית "שודרגה" עם AI כדי להציג את הבסיס עולה בלהבות וענן עשן סמיך ומסיבי הרבה יותר מעליו. זיוף AI של חילוץ גופתו של אייתוללה חמינאי מבין הריסות זכה ל־5.5 מיליון צפיות ו־46 אלף שיתופים, למרות אזהרות הקהילה שמדובר בזיוף.
מתחבא בתחתית
המדיניות החדשה של X מייצרת כמה קשיים. ראשית, היעילות של זיהוי זיופי AI באמצעות כלים אוטומטיים אינה מוכחת. הערות קהילה מופעלות על ידי קהילת משתמשים־מתנדבים, וחשופה לקשיים כמו אי־זיהוי זיופים או זיהוי איטי, אחרי שהפוסט כבר השפיע את השפעתו העיקרית. כמו כן, לא ברור עד כמה תהיה X נחושה לאכוף את המדיניות החדשה, או האם האכיפה תהיה אחידה ושוויונית. מאז רכש מאסק את הפלטפורמה, X גילתה נכונות נמוכה לאכוף גם את מדיניות ניטור התוכן המינימלית שנותרה לה.
שנית, ספק עד כמה הוספת הערה שמדובר בתוכן מג'ונרט אכן תספיק כדי להסב את תשומת לב המשתמשים שהתוכן מזויף. לפי הפוסט של ביר, X דורשת רק לפרסם הבהרה שמדובר בתוכן שנוצר עם AI (הכללים הרשמיים של תוכנית חלוקת ההכנסות טרם עודכנו), ולא מציבה כללים בדבר נוסח ההודעה או מיקומה. משתמשים יכולים לעשות שימוש בניסוחים מעורפלים או להצניע אותם במקום שלא יהיה נגיש למרבית הצופים (למשל, לצרף לפוסט וידיאו מלל ארוך שאיש לא יקרא ושבתחתיתו ההודעה). באופן זה הם יענו פורמלית על דרישות X בלי לפגוע באפקט של הזיוף.
עד כמה הבהרה כזו אינה משמעותית אפשר ללמוד ממקרה שהתרחש ממש השבוע כאן בישראל. ערוץ i24News שידר סרטון וידיאו שמתיימר להציג תיעוד מתוך תא הטייס של הפצצה באיראן. בפועל, היה מדובר בקטע מסימולטור טיסה שנלקח מיוטיוב, שם מצוין בבירור שמדובר במשחק מחשב. אם ערוץ שמתיימר להיות גוף חדשות לא מצליח לזהות ולהבין הודעה מסוג זה, מה אפשר לצפות ממיליוני גולשים מהשורה?
שלישית, המדיניות תקפה רק לחשבונות שמפיצים זיופים כדי להגדיל את ההכנסות שלהם. אבל יש חשבונות רבים שמבקשים להשיג מטרות אחרות, כמו חשבונות תעמולה רשמיים יותר או פחות של טהראן. מבחינתם, המדיניות אינה רלבנטית והם ימשיכו ליצור ולהפיץ זיופים כאלו בצורה רחבה.
X לא הצהירה עד עתה על כוונתה להסיר או אפילו להגביל את החשיפה של זיופי AI הקשורים לעימותים אלימים. כל עוד לא תעשה זאת, הפייקים ימשיכו להתפשט ולהפיל גולשים בפח.
זיוף AI של חילוץ גופתו של חמינאי. זכה ל־5.5 מיליון צפיות ו־46 אלף שיתופים
