ה־AI שיזהה את ה־AI: החברות שפועלות לגלות שקרים בעידן הדיפ פייק
זיופי בינה מלאכותית נפוצים יותר ויותר ומקשים את ההתמודדות על כולם – ממבוגרים מאותגרים טכנולוגית עד ארגוני חדשות. אבל הטכנולוגיה גם מולידה פתרונות, בדמות כלי AI שמנתחים טקסטים, תמונות וסרטונים ומזהים פייק שיצרה בינה מלאכותית. למשל AI Light הצעירה, Copyleaks או Clarity, שכבר מציעות כלים להבחין בין אמת ובדיה
עוד לפני שחזר לבית הלבן, היה ברור שדונלד טראמפ והקרובים אליו מנהלים קרב נגד המציאות עצמה. לכל אורך מערכת הבחירות הדהדו טראמפ, בן בריתו אלון מאסק והקמפיין מסרים שקריים, החל מהפצת תמונות שיוצרו על ידי מודלי AI (למשל, של מעריצות טיילור סוויפט שתומכות בטראמפ או של היריבה קמלה האריס במדים קומוניסטיים), ועד טענות חסרות ביסוס שקמפיין האריס הוא זה שמפיץ תמונות AI.
טראמפ, שמבית מדרשו יצא המונח "עובדות חלופיות", נמצא במלחמה לא רק נגד העם האמריקאי, משטרים דמוקרטיים והכלכלה העולמית, אלא גם נגד האמת עצמה. והוא לא לבד. משטרים סמכותניים אחרים, מרוסיה ועד ישראל, מובילים מהלך מתמשך לטשטוש ההבדל בין מציאות לבדיה, ולרשותם ולרשות עוזריהם עומדים היום כלים חזקים מאי־פעם: מודלי בינה מלאכותית גנרטיבית (GenAI), שיכולים לייצר טקסטים, תמונות וסרטונים בדיוניים לחלוטין אך אמיתיים למראה. התוצאה של מהלכים אלו היא יצירת עולם שבו לאדם הממוצע קשה מאוד, לעתים בלתי אפשרי, לדעת מה אמת ומה פייק, מה מציאות ומה בדיה.
אבל חברה ישראלית צעירה מתל אביב, AI Light, בטוחה שיש לה פתרון: מערכת מתקדמת לניתוח טקסטים, תמונות וסרטונים, שיכולה לזהות בתוך שניות אם הם נוצרו על ידי AI (וגם איזה מודל), עברו מניפולציה אנושית (בפוטושופ, למשל) או, במקרה של טקסטים, נוצרו על ידי בני אדם אבל מכילים פייק ניוז. "ככל שהזמן עובר, יותר אנשים מבינים שהם צריכים לבדוק את התוכן שהם רואים, לא משנה מי המקור", אמרה לכלכליסט המייסדת והמנכ"לית מורין סארניו. "המשימה שלנו היא להנגיש לכל אדם את הטכנולוגיה שמאפשרת להם לעשות את זה".
הרעיון ל־AI Light נולד בספטמבר 2023 מאמה של סארניו, ותופעה שכל אדם עם קרוב משפחה מבוגר מכיר היטב. "אמא שלי כל הזמן מקבלת הודעות פייק ניוז", היא סיפרה. "תמונות, הודעות של 'עכשיו ערבים מחכים בדלת'. היא נורא רוצה לעזור, אז היא מפיצה ושולחת את זה לכל העולם. חשבתי שחבל שהיא לא יכולה, לפני שהיא מפיצה את התבערה הזאת, לעשות פורוורד לחשבון ווטסאפ שיגיד לה אם זה אמת או לא".
סארניו, שהיתה אז בחופשת לידה, חלקה את הרעיון עם עמיתה המייסד, סמנכ"ל הטכנולוגיות גיא רוזנטל. "התחלנו לדבר על הדברים שאנחנו רוצים לעשות, והגענו לקונספט של חשבון ווטסאפ שאפשר לעשות לו פורוורד לתכנים והוא יגיד אם זה אמת או לא. זה המוצר הראשון ששחררנו".
ואז, הגיע 7 באוקטובר. "יש לי חברה שעובדת בחדשות 13. סיפרתי לה על מה אנחנו עובדים, והיא ביקשה, 'תעזרו לנו כי אנחנו מקבלים מלא תמונות מעזה ולא יודעים מה צולם היום, מה צולם אתמול, מה אמיתי. צה"ל אומר שהפציץ שוק בג'באליה, אבל יש כתבים שאומרים שהשוק בסדר. הם שולחים תמונות ואומרים שהתמונה היא מעכשיו'. אין להם איך לאמת את זה. פעם אמרו שאם סומכים על המקור, אז סומכים על התוכן. ב־7 באוקטובר זה התבטל. הם ביקשו שנעזור, ויצרנו קוד לחיפוש תמונות, שיכול למשוך תמונות ממאגרים כמו רשתות חברתיות ולבצע השוואות. ראינו שבאמת התמונות שנטען שצולמו עכשיו, לא צולמו עכשיו".
רוזנטל: "כשמוזנת תמונה למערכת, אנחנו מפעילים עליה אלגוריתמים. חלק זה חיפוש על אלמנטים בתמונה, אזורי עניין, מול מקורות כמו מדיה חברתית, כדי לבדוק אם זו תמונה שהתפרסמה בפייסבוק, X וכו'. לזה אנחנו מוסיפים ניתוח, בין שלהסתכל על מטה־דאטה ובין שעל ההקשר של התמונה, למשל מצאתי תמונה דומה אבל זו לא עזה אתמול אלא סוריה מלפני שלוש שנים".
ואת זה עשיתם לחדשות 13.
סארניו: "כן. הם שלחו לנו כמה מקרים מאוד קשים. זה היה ממש בהתחלה, עוד לא היינו חברה. 7 באוקטובר היה הטריגר להפוך את הרעיון ממשהו שאמא שלי צריכה למשהו יותר עסקי. בהתחלה חשבנו שהלקוחות יהיו אך ורק גופי חדשות. אבל ככל שהתחלנו יותר להתעמק במי יכול ליהנות מזה, באיך לוקחים כלים מאוד מאוד טכניים ומנגישים אותם לקהל רחב, הבנו שיש מגוון של משתמשים מקצועיים, לא רק תחקירנים וגופי חדשות שמתעניינים בטכנולוגיה כזאת".
AI Light מתחרה בתחום מתעורר וצפוף במיוחד, שבו לא מעט מתחרות ישראליות. אחת השחקניות המקומיות הבולטות והוותיקות היא Copyleaks מקריית שמונה. החברה, שהוקמה ב־2015 על ידי אלון ימין ויונתן ביטון, החלה את דרכה בפיתוח מערכת לזיהוי אוטומטי של טקסטים מועתקים, לשימוש בעיקר בסביבה אקדמית.
כש־ChatGPT הופיע ב־2022, מיהרה החברה להתאים את המערכת שלה לזיהוי של טקסטים שנוצרו על ידי מודלי AI, וכיום מציעה פתרונות שמותאמים למוסדות אקדמיים (זיהוי עבודות מזויפות), תאגידים (אימות שמודלי AI שמפתחות חברות מאומנים רק על בסיס תוכן אנושי ומניעת שיתוף מידע רגיש עם מודלי AI), ויכולות מתקדמות כמו זיהוי שימוש בטקסטים מוגנים בזכויות יוצרים על ידי מערכות AI.
מתחרה בולטת נוספת היא Clarity, שמפתחת פלטפורמה לזיהוי זיופי AI בסרטונים, תמונות ושמע. הטכנולוגיה של החברה, שהוקמה ב־2022 על ידי מיכאל מטיאס, ד"ר נטלי פרידמן וגיל אבריאל, מזהה מניפולציות של AI בסרטוני וידיאו, תמונות, אודיו ומאמתת את מהימנותם. קלריטי משלבת טכנולוגיות מתקדמות של אבטחת סייבר, יחד עם מודלים של AI המצליחים לזהות את האמצעים שבהם מנסים להסוות תוצרי דיפ פייק סינתטיים.
Dtect Vision, שהקימו פרופ' דוויד מנדלוביץ', ד"ר דן רביב, וליאור מויאל, מתמקדת במניעת הונאות במגזר הפיננסי, באמצעות זיהוי שימוש בדיפ פייק בצמתים קריטיים כמו שלב צירוף לקוחות חדשים או התחברות של לקוחות קיימים למערכת, לצד יכולות נוספות כמו אימות אמינות מסמכים, כולל זיהוי זיופי AI ואימות זיהוי משתמשים על פי ניתוח דפוסי תנועה ופעילות.
Cyabra, שהוקמה ב־2018 במטרה לפתח פתרונות לזיהוי תוכן זדוני ודיסאינפורמציה, מינפה בשנים האחרונות את המערכת שלה, שעושה שימוש ביכולות בינה מלאכותית, על מנת לזהות גם תוכן שנוצר על ידי מודלי AI, לצד פרופילים מזויפים ותכנים מזיקים שנוצרו בדרכים "מסורתיות" יותר. החברה הוקמה על ידי דן ברהמי, עידו שרגא ויוסף דאר.
התחלתם עם תמונות שמוחזרו או עברו עריכה בפוטושופ. אבל יש גם מודלי GenAI, שיכולים לג'נרט תמונות וסרטונים שנראים אמינים לגמרי, או מספיק אמינים, ולא תמצאו אותם במדיה חברתית.
רוזנטל: "התחלנו להתעסק בזה מהר יחסית. כל הפיתוח שלנו מונחה על ידי פידבק משתמשים. ראינו שזה מעניין אנשים, וזה חלק מהניתוחים שאנחנו מבצעים. תמונה שלא מצאתי אותה בשום מקום עוברת ניתוחים שבודקים האם היא תמונת GenAI, האם זה דיפ פייק, האם מישהו עשה מניפולציה של פוטושופ".
איך מתבצע הניתוח?
רוזנטל: "באמצעות מודלי למידת מכונה שפיתחנו, בשילוב עם כלים קיימים. בסופו של דבר, צריך לפתח AI שיזהה את ה־AI. המשימה פה היא משימה יחסית מוגדרת. בניגוד למשימה של GenAI, שתייצר לי עכשיו תוכן, המשימה שלנו היא לזהות האם זו מדיה מקורית או שזו מדיה שייצר GenAI".
סארניו: "במקביל, יש אנליזות שהן יותר עולם ישן, אבל ראינו שזה עדיין מאוד מעניין גופי תקשורת. כמו לזהות פוטושופ קלאסי".
מה אתם עושים בזיהוי טקסט?
סארניו: "אפשר לזהות האם זה טקסט שנוצר על ידי AI, ובנוסף אפשר לשאול את המערכת על טענות עובדתיות שמופיעות בטקסט, והיא תגיד האם זה נכון או לא בתוספת מקורות מתאימים. הדבר הבא שנשחרר הוא אפשרות להזין טקסטים מלאים, מאמרים שלמים, לבחון אם המידע שבהם נכון או לא. יש המון שימוש בטקסט, המון. הרבה סטודנטים, אוניברסיטאות, מרצים שבודקים אם יש שימוש ב־AI בעבודות שהגישו סטודנטים".
כיום AI Light מציעה שני מוצרים מרכזיים. הראשון, בוט ווטסאפ חינמי, שאליו אפשר להעביר או להעלות תמונות וסרטונים, ולקבל חיווי בינארי האם מדובר בתוכן אותנטי או בפייק שנוצר על ידי AI או עבר עריכת פוטושופ. השנייה, מערכת מקוונת בתשלום שמאפשרת להזין תמונות, סרטונים וטקסטים ולקבל ניתוח מפורט לכל אחד מהם. האם מדובר בתוכן מג'ונרט, באיזו רמת ודאות, ובמידה שכן, באיזה מודל נעשה שימוש על מנת ליצור את התוכן. כן מזהה המערכת שינויי עריכה שנעשו בתכנים ויזואליים, ובפרט אילו אזורים בתמונה או מקטעים בסרטון הם אלו שעברו מניפולציה. בעבור טקסט, המערכת גם תנתח האם המידע העובדתי שנמסר בטקסט נכון.
גיא רוזנטל, AI Light: המערכת שלנו יכולה להסביר את התשובה שלה, להצביע על אזור מסוים בתמונה למשל. היכולת לתת הסבר נותנת ערך משמעותי"
"חלק מהמשתמשים שלנו רק רוצים לדעת מה אמיתי ומה לא", אמרה סארניו. "יש הרבה תמונות מטינדר שאנשים רוצים לדעת אם הן אותנטיות. זה הגיוני, זה מקום מאוד רגיש. יש הרבה בדיקה של ידיעות חדשותיות. העלו הרבה תמונות של אנשים שהולכים בהר הבית עם ילדים כזה על הכתפיים והילדים מחזיקים נשק. מלא אנשים בדקו את התמונות האלה. יושב בן אדם, אולי בערב הסעודית, וחושב למה שמישהו ילמד את הילד שלו להסתובב עם נשק? זה כנראה פייק. אבל לא, התמונות הן לא פייק והמערכת שלנו אומרת את זה".
פיצ'ר אחר של המערכת מאפשר לבעלי זכויות יוצרים בתכנים לבצע ניטור רוחבי ברשת אחרי שימוש לא מורשה שנעשה בהם, כולל יצירות שמבוססות על התוכן המקורי. ניתן להעלות תכנים פרטנית, או לחבר חשבון מדיה חברתית לניטור אוטומטי של התכנים שמועלים בו.
"התחלנו לפתח את הפיצ'ר בעקבות בקשה מכלי תקשורת", אמרה סארניו. "הם אמרו, ברגע שאנחנו משחררים כתבה, מישהו יכול לחתוך אותה, להוציא ממנה שלושה פריימים, להשתמש, ואנחנו לא נדע לעולם. עוד מישהו שעזרנו לו זה סטארט־אפ ישראלי בתחום האופנה. הם עשו יום צילום, צילמו דוגמנית עם כל הבגדים שלהם, ומתחרה בקוריאה לקח את כל התמונות, עשה דיפ פייק על פנים, ופרסם את אותן תמונות. הם תבעו אותו, ואז רצו לדעת האם ייתכן שעוד מישהו עשה את זה. הם השתמשו במערכת, ומצאנו מלא. היזם נפעם מזה שהוא לא צריך לחפש ידנית, ושאם מישהו אחר מעלה את התוכן שלו הוא יידע".
רוזנטל: "עוד נקודה שאנחנו רואים שיש בה הרבה צורך, זה עניין הזה של הסברתיות. מערכת שיכולה להגיד, אני חושבת שזה פייק ב־50% היא לא טובה מספיק. המערכת שלנו יכולה להסביר למה היא חושבת ככה, אם בגלל אזור מסוים בתמונה ואם בגלל משהו אחר. היכולת לתת הסבר מונגש למשתמש נותנת ערך משמעותי".
יש כאמור עוד חברות שפועלות בתחום, חלקן יותר ותיקות עם מוצרים יותר בשלים, יותר כסף ויותר כוח אדם. מה היתרון שלכם?
סארניו: "אנחנו לא ראינו חברה שמאגדת טקסט, תמונה ווידיאו. יש חברות שעושות רק טקסט, חברות שעושות דיפ פייק בריל־טיים אבל רק על זום. המערכת שלנו יכולה לקחת סרטון, למשוך את הטקסט שלו, לעשות ניתוח של הפריימים ולספק הסבר מפורט של הממצאים. היכולת לעמוד מלמעלה ולנהל את הכל, ובזמן אמת, שם נמצא היתרון הגדול ביותר. יש הרבה כלים מאוד טכניים, אבל ההנגשה שלהם, היכולת הזאת להסתכל מלמעלה, לנהל את הכל ולתת את הפידבק הזה, היא ייחודית".
אנחנו בתקופה שפעמים רבות מי שמקדמת נרטיבים שקריים ופייק ניוז זו הממשלה עצמה, המדינה. אתם כוח נגד לזה?
סארניו: "לא ביקשנו להיות כוח נגד לממשל, אלא טרגטנו אמת. הרעיון הוא לאפשר דמוקרטיזציה של כלים סופר־טכניים שרוב האנשים לא יכולים לגשת אליהם. אנחנו לא מתערבים בתוצאות הטכניות של החיפוש. ממשלה יכולה לעוות את המציאות, אנחנו לא נוגעים בזה. יכול להיות שזה לגמרי נגד ישראל, נגד מורין או גיא, אנחנו לא מתערבים שם. זו נקודה שהיא מאוד נדרשת בעולם, בטח בעולם שיש בו את טראמפ ומאסק, שמחזיקים הרבה כוח ביחד. אחרי שפייסבוק ביטלה את בידוק העובדות והפחיתה את ניטור התוכן בצורה דרסטית, אנשים סופר־חשופים. הם לא יכולים לדעת מה אמת ומה לא. פה אתה תקבל את האמת כי ככה היא".
הפתרון שלכם בסופו של דבר הוא טכני. אבל הבעיה עם מיסאינפורמציה היא שאנשים פשוט מאמינים במה שהם רוצים להאמין, ושום דבר שתגידו לא ישנה להם.
סארניו: "הכל הרי התחיל ממה שאמא שלי מקבלת, והיא לא תלך לגוגל ותחפש. ההנגשה, שאתה עושה פורוורד ומקבל תשובה, היא סופר־משמעותית לבן אדם הפשוט. ככל שהזמן עובר, יותר אנשים מבינים שהם צריכים לבדוק את התוכן שהם רואים, לא משנה מי המקור".
רוזנטל: "גם אם רק ל־10% מהאנשים יש את האחריות או הרצון ללכת ולעשות את הדבר הקטן הנוסף הזה כדי לבדוק, ואנחנו נותנים להם יכולת וכלים לעשות את זה, אני חושב שעשינו את שלנו".
