מניפולציה של AI וההשפעה עלינו: איום חדש על הפרטיות והאמת הדיגיטלית
עם השקת הבשורה החדשה שהביא עמו הדפדפן החדש של OpenAI אטלס בעולם הבינה המלאכותית, הגיעו גם פירצות האבטחה והחדירה למרחב הפרטיות של משתמשי האינטרנט. אנחנו נמצאים בעידן בו כלי תקיפה חדשני מאיים לעוות את המציאות ואל לנו להקל בכך ראש
בשבוע שעבר נרשם ציון דרך נוסף בעולם הטכנולוגיה כאשר חברת OpenAI השיקה באופן רשמי את דפדפן ה-AI הראשון והחדש שלה – 'OpenAI אטלס'. מומחים ופרשנים רבים בעולם אף סברו כי גוגל צריכה להתחיל לחשוש למעמדה.
לאחרונה נחשף על-ידי חברת LayerX Security הישראלית פירצת אבטחה מדאיגה שמשפיעה על משתמשי ChatGPT בכל דפדפן, ובמיוחד בדפדפן 'OpenAI אטלס' עקב אי-שימושו בהגנות משמעותיות נגד הונאות פישינג. על פי הדוח, פירצה זו עלולה לאפשר לתוקפים להזין למערכת של ארגונים ואנשים פרטיים בקוד זדוני ובו הוראות זיכרון קבועות, שיישמרו וישפיעו על תשובות עתידיות של הבינה המלאכותית.
אנו לא עדים כאן לבאג טכני בלבד, אלא בכלי תקיפה חדשני שמאיים לעוות את מציאות חיינו.
למידע שמוזן להוראות זיכרון של ChatGPT יש חשיבות רבה. אך כאשר מערכת AI מסתמכת על מידע שמוזן לא מדויק, שגוי או מטעה, זה יכול לגרום נזק ממשי. המערכת תשתמש במידע הזה כעובדה מוגמרת, תפיץ אותו הלאה ותיצור על בסיסו תובנות - מה שיכול לגרום לעיוות דימוי, פגיעה בשם הטוב, ואף לנזקים משפטיים ועסקיים לאדם או לארגון שעליהם הוזן המידע השגוי.
הסכנה אינה מוגבלת להזנת קוד שגוי בשגגה. כאן מדובר בסיכון של הזנה מכוונת של מידע שגוי או מזיק, שהמערכת תשמור בזיכרון שלה, תתייחס אליו כאמין ותשתמש בו בהמשך לצורך קבלת החלטות או מתן תשובות. ניתן להפעיל את הדמיון על ההשפעה בדוגמה הבאה: רבות דובר בשנים האחרונות על כך שהשפעה זרה של מדינות זרות עלולה לערער את התשתית הפוליטית והחברתית של ישראל ובכך לפגוע בעצמאות קבלת ההחלטות של הבוחרים במערכות הבחירות הדמוקרטיות. כעת, נוסף לאיומים אלה, הצטרף איום חדש - גורם זר יכול, למשל, לעוות מענה של AI על מועמדים פוליטיים מסוימים והנזק לדימוי הציבורי שלהם עלול להיות בלתי הפיך.
זהו כלי תקיפה חדש לחלוטין. מניפולציה של המציאות הדיגיטלית דרך השפעה על "הזיכרון" של מערכות ה-AI. זהו "הרעלת נתונים" (Data Poisoning) מתוחכם, שמנצל את האמון שיש למשתמשים ב-AI כמקור ידע משמעותי בחיי היומיום. בישראל, שבה חוק הגנת הפרטיות מחייב שקיפות, שלמות מידע ושימוש נאות במידע, פרצה זו עלולה להפר את עקרונות היסוד של החוק ולחשוף חברות כמו 'OpenAI' אף לתביעות ייצוגיות.
שימוש ב-AI הוא מבורך ותורם ליעילות עבודה בתחומים רבים בחיינו, אך הוא חייב להיעשות בצורה מושכלת. רגולטורים כמו הרשות להגנת הפרטיות, יחד עם מערך הסייבר הלאומי הישראלי, חייבים להידרש לאירוע באופן מיידית וגם לדרוש שקיפות. ללא צעדים אלה, AI יהפוך מכלי קידמה לאמצעי דיסאינפורמציה מסוכן.
ד"ר דן חי הוא בעלים של משרד עו"ד דן חי ושות', מומחה לחוק הגנת הפרטיות וסייבר. לשעבר ראש הוועדה להגנת הפרטיות של לשכת עורכי הדין
