סגור
תמונה מזויפת של דגל פלסטין בידי אוהדי אתלטיקו מדריד
תמונה מזויפת של דגל פלסטין בידי אוהדי אתלטיקו מדריד (צילום: טוויטר)

לא מאמינים לאמת: הסקפטיות שיצרה מהפכת ה-AI גורמת לפקפוק בחומרים אותנטיים

החשש מפני הצפת הרשתות החברתיות בפייק ניוז מבוסס בינה מלאכותית במהלך המלחמה הומר בדאגה מאובדן אמון בתמונות ובסרטונים אמיתיים. במקרים רבים, דמויות פוליטיות מואשמות בניסיון להטות את דעת הקהל באמצעות AI למרות שהתכנים שהעלו מקוריים

מאז שפרצה המלחמה בעזה לפני יותר משלושה שבועות עלה החשש כי ההתפתחות של טכנולוגיית בינה מלאכותית, ובראשה טכנולוגיית דיפ פייק, תוביל להצפה של צילומים מפוברקים ומזוייפים. ואולם, לפי דיווח בניו יורק טיימס נמצא רק מספר מצומצם של תמונות שחוללו על ידי בינה מלאכותית, כשמעטות בלבד היו משכנעות. מצד שני, מהדיווח עולה כי החשש הזה מההשפעה של AI מוביל לכך שאנשים מפקפקים יותר ויותר במהימנות של תמונות וסרטונים שהם דווקא אמיתיים.
כך למשל בפורומים ובפלטפורמות מדיה חברתיות כמו X (לשעבר טוויטר), טלגרם ורדיט, המשתמשים האשימו דמויות פוליטיות וכלי תקשורת בניסיון להטות את דעת הקהל על ידי יצירת תכנים באמצעות בינה מלאכותית גם במקרים שבהם התכנים היו מקוריים וללא שום שימוש ב-AI. "אפילו בסטנדרטים הנמוכים יותר של מלחמות, העימות הזה הוא מסובך ביותר", אמר לעיתון האני פאריד, מרצה למדעי המחשב באוניברסיטת קליפורניה ברקלי שמתמחה ב-AI ובהפצת מידע שגוי. "לא צריך עשרות אלפי שימושים בדיפ פייק, אלא מספיקים מקרים אחדים כדי להרעיל את הבאר - ואז הכל הופך להיות חשוד".
באופן כללי המומחים מזהירים כי העלייה בשנה האחרונה בנגישות של מחוללי AI והרגישות המובנית של הסכסוך במזה"ת הם אלה הובילו לכך שיש מי שמנסים לנצל את המצב ולהטיל ספק באותנטיות של תכנים אמיתיים.
ובכל זאת, לא חסרות תמונות מפוברקות. רובן, כאמור, ניתנות בקלות לזיהוי, כמו למשל פוסט שפורסם ב-X וזכה ל-1.8 מיליון צפיות של דגל פלסטין ענק שמחזיקים אוהדי כדורגל במדריד, שהתגלה כמזוייף בשל העיוותים בדמויות האוהדים, או צילום שהופץ בערוץ הטלגרם של חמאס של ראש הממשלה בנימין נתניהו מכוסה בדם.
בניסיון לגלות אילו תכנים הם אותנטיים ואילו מזוייפים משתמשים רבים פונים לכלים שאמורים לזהות אם נעשה שימוש במניפולציה דיגיטלית, אלא שבדיקה של הניו יורק טיימס מצאה כי גם הכלים הללו לא מדוייקים ב-100% ולעיתים הם מאשרים תמונות כאותנטיות על אף שהשימוש ב-AI בהן בולט, או שהם מתייגים תמונות אותנטיות כמזוייפות.
בשלב זה, בכל אופן, נראה כי ההעדפה של מפיצי התמונות המזויפות היא לא ליצור תמונות מ-AI, אלא להשתמש בתמונות מעימותים או מאסונות קודמים ולטעון כי הם צולמו כעת. "אנשים יאמינו לכל מה שממילא מאשר את האמונות שלהם או הופך אותם לרגשניים", סיכם אלכס מהדיבן מתוכנית MediaWise.