שימו לב, אתר זה עושה שימוש בעוגיות על מנת להבטיח לך את חוויית הגלישה הטובה ביותר. קראו עוד הבנתי
חדשות טכנולוגיה

אינסטנט איש: בינה מלאכותית כבר מייצרת פנים מלאכותיות

חברת אנווידיה הגתה שיטה לשילוב מהיר בין תמונות, שתאפשר ליצור אנשים, חדרים ואפילו מכוניות שאינם קיימים במציאות אך נראים אותנטיים לחלוטין. יש צדדים חיוביים לפיתוח שכזה, אך הוא גם מדאיג מאוד גורמי ביטחון, בשל הפוטנציאל ליצירת מסרים מזויפים מטעם מנהיגי עולם

רפאל קאהאן 16:1118.12.18

טכנולוגיות הדיפ פייק (Deep Fake) - כלים שמאפשרים ליצור תמונות וסרטים מלאכותיים של אנשים - קופצות כיתה: לפי מחקר חדש של חברת אנווידיה, ניתן להשתמש בהן כדי ליצור תמונות של בני אדם שאינם קיימים במציאות, דרך שילוב של המוני פרטים מתמונות ציבוריות ברשת. בשיטה זו, אפשר ליצור גם סביבות פיקטיביות כחדרים ואפילו מכונות.

 

 

אנשי אנווידיה הצליחו לבנות קלסתרון פנים שנשען על שתי רשתות נוירונים: הראשונה מייצרת תמונות ואילו השנייה מנסה לזהות אותן. מיליוני תמונות פוטנציאליות נוצרות ומבוקרות כך, עד שמגיעות לרמה בה הרשת יודעת שמדובר באדם, וכך נוצרת תמונה שנראית אותנטית לחלוטין. 

 

מי מהאנשים הללו אמיתי? אף לא אחד מי מהאנשים הללו אמיתי? אף לא אחד צילום: Nvidia

 

 

התוצאה היא תמונת אדם שאינו קיים, ומורכב מאלמנטים מתמונות של הרבה אחרים שפשוט שולבו בצורה טבעית ונקייה ביותר. אנווידיה הדגימה גם יצירת חדרים וחללים בשיטה זו, ואפילו מכוניות. לטכנולוגיה זו יכולים להיות שימושים חיוביים: למשל, שימוש במערכת שתייצר תמונות סטוק יש מאין, מבלי צורך בשירותי רכישת תמונות.

 

 

חדרים פיקטיביים חדרים פיקטיביים צילום: Nvidia

 

 

ואולם, הפוטנציאל השלילי שלה גדול ובעייתי ביותר: בעזרת כלי שמייצר אנשים יש מאין אפשר לבנות תמונות וסרטים מזויפים שייראו אמינים ביותר. בעבר יזמה DARPA, סוכנות הפרויקטים המיוחדים של הפנטגון, תוכנית לפיתוח מערכת שתדע לזהות דיפ פייק. הסיכון לביטחון לאומי הוא ברור: סרטון של מנהיג עולמי שמכריז מלחמה, מודה בפשעים או מתפטר יכול לגרום לצלילות קיצוניות בבורסות, לזרוע פאניקה ציבורית ועוד. עד כדי כך, שהפנטגון הודיע במאי שעבר שטכנולוגיה זו עלולה להוות איום חמור ביותר על יציבות העולם.

 

 

 

אבל בסוכנות העלו ספק בדבר היכולת לזהות אותה אפילו אם משתמשים ברשתות נוירונים. "תיאורטית גם אם תספק לבינה מלאכותית את היכולות לזהות את הטכניקה, יכול מאוד להיות שהיא תיכשל בזיהוין", אמר מנהל הפרויקט של DARPA, דייויד גאנינג לבטאון ה-MIT.

בטל שלח
    לכל התגובות
    x