הדיפ-פייק כבר מזמן אינו משחק - עכשיו הוא גם סכנת חיים
סרטוני Deep Fake עם המלצות של רופאים ידועים על תרופות מפוקפקות מציפים את הרשת. אי נקיטת פעולה מצד הפלטפורמות תגרום לאובדן אמון הציבור
סרטון שהופץ לאחרונה בטיקטוק הציג את הרופא הבריטי הנודע ד"ר מייקל מוסלי נואם בכנס ומזהיר בפניו ובקולו את הציבור מפני צריכת מאכלים ומשקאות מסוימים, כולל קפה, כדי להימנע ממוות לפני גיל 40. הוא אף המליץ על מוצר מסוים כחלופה, עם קישור לרכישת אותו מוצר.
הכל טוב ויפה, אלמלא העובדה המצערת שד"ר מוסלי הלך לעולמו לפני כשנה במהלך חופשה עם רעייתו באי יווני ולא אמר את הדברים מעולם. מדובר ביצירת AI שהוכנה בטכנולוגית Deep Fake. הסרטון זכה לחשיפה רבה, עם התמקדות בגולשים שמגלים ענין בהמלצות בריאותיות, מבלי שלאיש מהם היתה יכולת לדעת שהם צופים בזיוף מוחלט.
השימוש בפניו וקולו של ד"ר מוסלי למטרות רפואיות מסחריות אינו היחיד. מאות רופאים ברחבי העולם כבר התמודדו עם שימוש בשמם ובמוניטין שצברו לאורך השנים לקידום תרופות מפוקפקות. במקרה אחר נטורופט נודע, בעל מיליוני עוקבים ברשתות, נחרד לגלות סרטון שבו הוא מוצג כקרדיולוג וממליץ על אותו מוצר מהדוגמה הקודמת כאמצעי יעיל להימנע מהתקפות לב. לצד המבוכה הוא נאלץ להתמודד עם פניות רבות של עמיתים ולקוחות שתהו על המלצתו והתואר שבו הופיע באותו סרטון.
התרחבות השימוש בדיפ-פייק לתחום הרפואי הוא סימן אזהרה נוסף שטכנולוגית הזיוף המתקדמת כבר רחוקה מלהיות אמצעי לשעשוע ומתיחות. צריכת תרופות ותוספי תזונה בהסתמכות על המלצה כביכול של רופא בר סמכא עלולה לסכן חיים. חולה לב, לדוגמה, עלול להימנע מטיפול רפואי הכרחי ולחשוב שאותו תוסף שראה בטיקטוק מחזק את איתנותו הבריאותית.
השתכללות הטכנולוגיה הופכת את הזיהוי של סרטונים אלו לקשה יותר ויותר. עד שהתלונה מתקבלת ומטופלת על ידי הפלטפורמות הדיגיטליות הם זוכים לתהודה רבה. לעיתים מי שפניו וקולו נגנבו ממנו צריך לנהל תכתובות ארוכות עם הפלטפורמה כדי לשכנע שמדובר בזיוף. גם לאחר שבסופו של דבר אותם פרופילים מזויפים יורדים מהרשת, צצים רבים אחרים בתוך שעות אחדות וחוזר חלילה.
בתקופה האחרונה האיחוד האירופי, הממשל האמריקאי וגופים רגולטורים אחרים בעולם משקיעים מאמץ רב בהסדרת הנעשה ברשת האינטרנט, בדגש על השימוש ב-AI. לצערנו למרות המאמץ הרב הם עדין רחוקים מלהדביק את הקצב של הטכנולוגיה.
החלל שנוצר מחייב את הפלטפורמות הדיגיטליות לנקוט בפעולה עצמאית ולעלות שלב במאבק בדיפ-פייק. זה מצריך הרבה נחישות והבנה שמדובר במלחמה אינסופית. הנוכלים ימשיכו להשתכלל וכך גם טכנולוגיות הזיהוי. אדישות לתופעה זו או נקיטת פעולות מינימליות כדי לצאת ידי חובה תגרום לאובדן שארית האמון הציבורי בעולם הדיגיטלי ותכרות את הענף הגדול שכולנו יושבים עליו.
עד שכל זה יקרה, ההמלצה לגולשים לגלות חשדנות בריאה מול כל המלצה שהם רואים, ובמידה והם מעוניינים לעשות בה שימוש לנסות לאמת את המידע בדרך נוספת.
מיכאל מטיאס הוא מייסד ומנכ"ל חברת Clarity
