מודל ג'ינרוט הווידיאו של גוגל מציג: כש-AI הופך לכלי לגזענות ואנטישמיות
סרטוני AI גזעניים להחריד שנוצרו במודל Veo 3 של גוגל זוכים למיליוני צפיות בטיקטוק. ארגון Media Matters מזהיר כי הסרטונים האלה מצליחים לעודד הסתה נגד אוכלוסיות נרדפות. "השיח סביב AI לרוב מתמקד באמינות התוכן, אבל מסרי שטנה לא צריכים להיראות אמיתיים כדי לבסס גזענות", אמרו בארגון
אסיר במחנה השמדה נאצי עומד לפני ארובה מעלת עשן, ואומר: "קצת מעושן כאן, אבל משהו מריח טוב. אני הולך עכשיו למקלחת"; פרש בבגדי קו־קלוקס־קלאן רודף אחרי אדם שחור; רכב דורס קבוצה של מפגינים, כאשר המצלמה ממוקמת בתוך רכב הדורס — מה המשותף לכל אלה? כולם סרטוני AI גזעניים להחריד שג'ונרטו במודל Veo 3 של גוגל, וזכו למאות אלפי ואפילו מיליוני צפיות בטיקטוק.
"השיחה סביב AI ודיסאינפורמציה מתמקדת לרוב באמינות של תוכן מג'ונרט, כמה מציאותי הוא נראה. אבל מסרי שטנה לא צריכים להיראות אמיתיים כדי לבסס תפיסות גזעניות בקרב צופים", אמרו בארגון המדיה Media Matters, שחשף את הסרטונים בדו”ח שפרסם השבוע. "בארצות הברית יש היסטוריה ארוכה של שימוש בקריקטורות כדי לקדם תעמולת שטנה נגד שחורים. כשהמרוץ ליצירת כלי GenAI נמשך, השיחה צריכה לשקול את הנזק שיכול להיגרם מדימויים מציאותיים ולא מציאותיים כאחד".
טיקטוק ידועה ככר פורה להפצת שטנה וגזענות, וגילויי האנטישמיות החריפים בפלטפורמה בעקבות טבח 7 באוקטובר היו מהזרזים להעברת החוק שמחייב את מכירת פעילותה בארצות הברית לחברה אמריקאית. אלא שעתה ביטויי השטנה מקבלים שדרוג מחריד באמצעות מודל ג'ינרוט הווידיאו החדש של גוגל, Veo 3.
המודל, שגוגל השיקה ב־20 במאי, מאפשר לכל אחד ליצור סרטונים בני 8 שניות מלווים בקול, וכבר עם השקתו תואר, במידה מסוימת של חרדה, כבעל יכולות ליצור סרטונים מציאותיים ואמינים יותר מכל מודל ג'ינרוט וידיאו אחר. לפי דיווחים, גוגל מתעתדת לבצע אינטגרציה של המודל עם שיבוט הטיקטוק שלה, יוטיוב שורטס.
אבל בינתיים סרטונים שג'ונרטו ב־Veo 3, ובהם סרטונים גזעניים ומסיתים להחריד, כבר זוכים לוויראליות משמעותית בטיקטוק. הסרטונים שמופיעים בדו”ח של מדיה מאטרס בני 8 שניות או פחות, וכוללים לפחות סימן אחד שמזהה אותם ככאלו שנוצרו ב־Veo: לוגו של המודל בפינה הסרטון; תגית או כיתוב שמזהה את המודל; או סימנים ברורים לכך שמדובר בסרטון AI (כמו בעיות המשכיות, טקסט מקושקש או עיוותים אחרים).
החשוד המיידי
רבים מהסרטונים שמזוהים בדו"ח מאופיינים בגזענות נגד שחורים, ועושים שימוש בסממנים גזעניים מוכרים. בסרטון אחד שכותרתו "וופל האוס (מסעדה שמזוהה ככזו שאהודה על אפרו־אמריקאים — ע"כ) ממוצע באטלנטה" נראה פנים מסעדה שכל סועדיה קופים. לפתע מתנגשת בחזית המסעדה מכונית, וממנה פורצים קופים אוחזים בדליים של עוף מטוגן. הסרטון רשם 600 אלף צפיות. בתרבות הגזענית של ארצות הברית שחורים יוצגו פעמים רבות כקופים.
2 צפייה בגלריה
מכונית עם קופים מתנגשת בחזית מסעדה, מלווה בטקסט: “וופל האוס ממוצע באטלנטה”
(צילום מסך)
בסרטון אחר, שרשם 4 מיליון צפיות, נראית קופה בפאה ורודה ארוכה, ריסים ורודים וציפורניים ורודות ארוכות עומדת מחוץ לסבן אילבן, אוחזת בכוס ברד ומבשרת (בייצוג גזעני של אופן הדיבור שמזוהה עם אפרו־אמריקאים): "קצין המבחן שלי התקשר. חדשות טובות, אני לא צריכה לעשות עוד שירות קהילתי. חדשות רעות, זה כי יש צו חדש למעצרי".
ז'אנר פופולרי דומה הוא "החשוד המיידי", סרטונים שבהם נראים קופים מבצעים פשעים שונים, כאשר הכותרת או אחת הדמויות בסרטון מכריזה: "זה החשוד המיידי". כך, למשל, סרטון שרשם 5.3 מיליון צפיות, ובו נראה רכב נמלט מניידת משטרה, מתנגש בעמוד, וקוף נמלט ממושב הנהג.
סרטונים אחרים היו פחות עדינים. למשל, סרטון שבו אדם שחור במסכת סקי נושא טלוויזיה מבעד לחלון ראווה שבור ומספר: "אני רק עושה את הקניות השלוות שלי להיום". בסרטון אחר, שרשם 2.1 מיליון צפיות, שוטר לבן מחזיק חכה שמהקצה שלה משתלשל אבטיח (שוב, מאכל שמזוהה עם הקהילה השחורה ונחשב לאלמנט שעושים בו שימוש גזעני), ואומר: "המספרים שלי נמוכים השבוע, גבר חייב לעשות מה שגבר חייב לעשות", בעוד אשה שחורה זוחלת לעברו על ארבע.
2 צפייה בגלריה
אדם שחור גונב טלוויזיה, מלווה בטקסט: “אני רק עושה את הקניות השלוות שלי להיום”
(צילום מסך)
כן אתרו בארגון סרטונים שהופנו נגד מהגרים, למשל סרטון שבו מפגין מנופף בדגל מקסיקו, מאחוריו נראות להבות, והוא מכריז: "אני מנופף בדגל של המקום שאני לא רוצה להישלח אליו בחזרה, בשעה שאני הורס את המקום שאני לא רוצה לעזוב". בסרטון אחר היצור הבדיוני ביגפוט יושב במושב נהג של טנדר, עם יצור דומה לידו, ודורס בחדווה קהל של מפגינים.
סרטון שהוא אולי המחריד והבוטה ביותר בדו”ח הוא אנטישמי ומכחיש שואה. בסרטון, שהוא למעשה איחוד של כמה קליפים מג'ונרטים, נראה אדם במדי מחנה ריכוז מצלם את עצמו בסלפי כשברקע ארובה מעלת עשן, שמזכירה את מחנות ההשמדה. "קצת מעושן, אבל משהו מריח ממש נחמד כאן", הוא אומר. השוט מתחלף, והוא עומד לפני קבוצת אסירים מאחורי גדר תיל ואומר: "כולם כאן נהנים מאוד". שוט נוסף, בתוך מגורי האסירים: "אני ממש אוהב את המגורים כאן במחנה. יש להם קסם כפרי". עוד שוטים כוללים את האסיר עומד ליד ערימת נעליים ותוהה "האם יש שם אייר ג'ורדן", יושב לאכול פרוסת לחם ואומר שהאוכל מצוין ושהוא "ממש מחכה ללכת למקלחות". עוד הוא מדווח שעשה קעקוע, למרות התנגדות אשתו. הסרטון רשם מיליון צפיות.
אדם במדי מחנה ריכוז מצלם את עצמו בסלפי, מלווה בטקסט: “קצת מעושן, אבל משהו מריח ממש נחמד”(צילום מסך)
ערימת נעליים, המזוהה עם שואת היהודים, מלווה בטקסט: “האם יש שם אייר ג’ורדן?”(צילום מסך)
חוגגים נרטיב אנטישמי
הסרטונים האלה אינם נתפסים כאמיתיים, הם אינם מתיימרים להיראות אמיתיים, ובחלקם צוין במפורש שזה AI. אבל הדו”ח של מדיה מאטרס מציף בעיה שעד כה לא זכתה להתייחסות ראויה: שימוש ב־AI לא כדי להונות את הצופים, אלא כדי לקדם הסתה. החשש ש־AI תשמש להפצת פייק ניוז הוא אמיתי, אך עדיין לא הפך לבעיה משמעותית. מנגד, שימוש ב־AI כדי לייצר מסרים גזעניים, מסיתים ואלימים הוא כבר תופעה קיימת.
הגולשים שצפו, הגיבו ושיתפו את הסרטונים לא באמת חושבים שאסירים במחנות השמדה צילמו סרטוני סלפי, או שמכונית מלאת קופים התרסקה לתוך מסעדה באטלנטה. הם יודעים שמדובר ב־AI, והם משתמשים ביכולות המודלים לא כדי להפיץ פייק ניוז, אלא כדי לחגוג נרטיבים גזעניים ואנטישמיים. הסרטונים הללו לועגים לקבוצות נרדפות, מגחיכים ומשפילים אותן, ומהווים אמצעי לגיבוש קהילות גזעניות.
