ממגדל אייפל "קורס" ועד אתרי גרעין מזויפים: פיצ'ר ה־AI החדש של Google Earth הוקפא תוך 48 שעות
רגע לאחר שהושק, הקפיאה גוגל את האפשרות ליצור תמונות לוויין באמצעות AI ב־Google Earth בעקבות חשש להפצת דיסאינפורמציה. בבדיקות הצליחו משתמשים ליצור תרחישים מזויפים שנראו אמינים – ממגדל אייפל קורס, דרך אתרי גרעין מזויפים ועד טנקים רוסיים בלב קייב – ואף לעקוף חלק ממנגנוני ההגנה של החברה
פחות מ־48 שעות לאחר שהשיקה את פיצ'ר הבינה המלאכותית החדש ב־Google Earth, הקפיאה גוגל את האפשרות בעקבות חשש כי היא מאפשרת ליצור תמונות לוויין מזויפות שעלולות לשמש להפצת דיסאינפורמציה.
הפיצ'ר, ששילב את מחולל התמונות Nano Banana 2 בתוך Google Earth, אפשר למשתמשים להוסיף באמצעות הנחיות טקסטואליות אובייקטים, מבנים ואירועים שלא התרחשו על גבי צילומי לוויין, תצלומי אוויר ותצוגות תלת־ממד אמיתיים. לאחר מכן ניתן היה להוריד את התמונות ולשתף אותן ברשתות החברתיות.
בהודעה שפרסמה אתמול (ו') מסרה גוגל כי היא משהה את הפיצ'ר "בזמן שאנו עובדים על הטמעת מנגנוני הגנה חזקים יותר", לאחר שזיהתה משתמשים משתפים תמונות שנוצרו באמצעותו באופן שעלול להפר את מדיניות החברה. "אנחנו יודעים שאנשים נותנים ב־Google Earth אמון ייחודי כמקור המציג תמונה אמינה של העולם", נמסר.
בבדיקות שערך BBC הצליחו החוקרים ליצור באמצעות הכלי שורה של תרחישים פיקטיביים שנראו אמינים במיוחד, ובהם מגדל אייפל שקרס בפריז, בולען עצום הבולע את הפירמידה הגדולה בגיזה וטנקים רוסיים במרכז קייב.
מומחים הזהירו כי הסכנה אינה רק באיכות התמונות, אלא בכך שהן "מולחמות" על גבי מיקום אמיתי במפות של גוגל. לדבריהם, השילוב בין תמונת לוויין אמיתית לבין תוכן שנוצר בבינה מלאכותית מעניק לזיוף אמינות גבוהה במיוחד.
מומחה הדיסאינפורמציה הנק ואן אס, שבחן את הפיצ'ר, הצליח ליצור גם תחנת כוח גרעינית פיקטיבית באיראן, מחנה פליטים שלא קיים בגבול ארה"ב־מקסיקו ובית חולים מדומה ברצועת עזה שלצדו מכתש שנראה כתוצאה מהפצצה. "הזיוף לא חייב להיות משכנע בפני עצמו. הוא יורש את האמינות של המפה שעליה הוא נוצר", אמר.
גוגל ציינה כי כל תמונה שנוצרת באמצעות כלי ה־AI שלה כוללת סימון מים בלתי נראה, וכי ניתן לבדוק את מקורן באמצעות Gemini או Google Lens. עם זאת, לפי BBC, במקרים מסוימים ניתן היה לעקוף את מנגנוני הזיהוי ואף לגרום ל־Gemini לזהות תמונות מזויפות כאמיתיות. גם חלק מכלי הזיהוי החיצוניים לא הצליחו לזהות שהתמונות נוצרו באמצעות AI.
בדיקות נוספות העלו כי ניתן היה לעקוף גם חלק ממנגנוני ההגנה של גוגל באמצעות שינוי קל בניסוח ההנחיות. כך למשל, בקשה ליצור "מתקן לתליית בוגדים" ליד הפרלמנט הבריטי נחסמה, אך ניסוח כללי יותר התקבל והתמונה נוצרה. בקשה להוסיף את המילה "טראמפ" למדשאת הבית הלבן נדחתה, אך באותו מקום בדיוק הסכים הכלי ליצור גינה קהילתית.
לדברי הנרי אג'דר, חוקר המתמחה בזיהוי תוכן שנוצר בבינה מלאכותית, היכולת לייצר תמונות לוויין מזויפות של אזורי מלחמה או אסונות עלולה להיות מסוכנת במיוחד. "כשאירועים מתפתחים במהירות והמידע מוגבל, תמונות כאלה עלולות לערער את היציבות ולהטעות גם עיתונאים וגם את הציבור", אמר.
גם ביל גריר, אנליסט גיאו־מרחבי וממייסדי ארגון הלוויינים ללא מטרות רווח Common Space, הזהיר מפני הפגיעה באמון הציבור. לדבריו, צילומי לוויין נחשבו במשך שנים למקור מידע אמין במיוחד, אך ריבוי זיופים לצד צמצום הגישה למידע לווייני אמיתי על ידי ממשלות עלול לשחוק את האמון הזה. "ככל שנראה יותר תמונות מזויפות ופחות תמונות אמיתיות, כך יהיה קשה יותר לדעת על מה אפשר לסמוך", אמר.
