ב־16 ביולי — 81 שנים בדיוק לאחר הניסוי הגרעיני הראשון בהיסטוריה, שזכה לכינוי "רגע הטריניטי" — התכנסה ברומא קבוצה של חתני פרס נובל, מדענים, דיפלומטים ואנשי דת כדי לחתום על הצהרה שנפתחת במילים "האנושות עומדת בפני רגע מכריע בהיסטוריה שלה". זאת, רק חצי שנה לאחר שקבוצה מובילה של מדעני אטום טענה כי מעולם לא היינו כה קרובים לקטסטרופה גלובלית, ושכדי למנוע את התרחשותה נדרשת רגולציה בינלאומית מחייבת בתחום הבינה המלאכותית.
זו לא היתה הפעם הראשונה שבה מדענים השוו את סכנות הנשק הגרעיני לאלו שה־AI מציב בפני האנושות. בקיץ 2023, בעיצומו של גל ההתלהבות סביב ChatGPT, הגיע לאקרנים סרטו של כריסטופר נולאן "אופנהיימר". בראיונות לקידום הסרט אמר הבמאי שחוקרי AI הגדירו בפניו את תקופת הזמן ההיא בתואר "רגע אופנהיימר", והתכוונו לתחושות ההתפכחות והחרטה העמוקות שחשים מדענים כשהם מבינים שבלי להתכוון הם שחררו לחופשי עוצמה הרסנית שלא ניתן לשלוט בה. ההקבלה הזו החלה לבעבע חודשים אחדים קודם לכן, כשג'פרי הינטון, אחד מסנדקי הבינה המלאכותית, התפטר מגוגל כדי להזהיר את העולם מהסכנה שלדבריו מהווה הבינה המלאכותית. הוא אף הצהיר שהוא מתחרט על כך שפיתוח הטכנולוגיה היה פרויקט חייו. ממש באותה תקופה חתמו מאות חוקרים, ובהם סם אלטמן מ־OpenAI ודמיס האסביס מ־Google DeepMind, על הצהרה שבה נכתב רק כי "הפחתת סכנת ההכחדה שמציבה הבינה המלאכותית צריכה להיות בעדיפות גלובלית, לצד סכנות כגון מגפות ומלחמה גרעינית".
אחת התועלות בהשוואת סכנות האטום לסכנות ה־AI היא הנחמה שהיא מספקת, שכן סכנת הנשק הגרעיני לכאורה נמצאת כבר תחת שליטה. עם זאת, יש לזכור כי העובדה שהעולם לא הידרדר עד כה למלחמה גרעינית אינה בהכרח תוצאה של קיומן של מערכות ניהול מושלמות, אלא משום שבין היתר בני אדם גילו שיקול דעת ברגעים מכריעים. המטאפורה הזו מסייעת בעיקר מפני שהיא מראה לנו שאף שהאנושות כבר פיתחה טכנולוגיה שמסוגלת להכחיד אותה, היא בכל זאת מצאה דרכים להתמודד עם הסכנה באמצעות כינון אמנות והצבת גבולות מוסכמים. הבעיה איתה היא שהיא מעניקה לנו תחושת שליטה מדומה, שכן המשחק הנוכחי מתנהל לפי חוקים ששונים באופן מהותי מאלו שהיו רלוונטיים לאיום הגרעין על האנושות.
AI לא מותיר עקבות
היכולת לפקח על תפוצת נשק גרעיני מבוססת על כך שאורניום ופלוטוניום, היסודות שנדרשים לבניית פצצות גרעיניות, הם חומרים נדירים, שעיבודם לרמה שמאפשרת שימוש צבאי בהם קשה להסתרה למשך זמן. כדי להקים מתקן העשרה נדרשות אלפי צנטריפוגות והקמת שרשרת אספקה מורכבת, ותהליך ההעשרה מותיר עקבות שמאפשרות פיקוח באמצעות הצבת מצלמות ומדידות. אם ננסה להשליך את הפרקטיקה הזו על פיקוח על בינה מלאכותית, נגלה שהקרקע נשמטת.
את הסיכון שבמערכות AI לא ניתן להעריך באמצעות הקביעה אם לגורם כלשהו יש או אין חפץ או חומר שנדרש לבנייתן. משטר הפיקוח הגרעיני מבוסס על שאילת שאלות שהתשובה להן מדידה — כמה חומר בקיע יש לך? — בעוד לשאלה מה מערכת AI מסוגלת לעשות אין תשובה כזו, ואין יחידת מדידה מוסכמת שמגדירה היכן עובר הגבול בין פיתוח תמים ליכולת מסוכנת. עד כדי כך שאפילו מעבדה שמחויבת לציות לכללים לא יכולה להוכיח שהיא עומדת בהם.
ההבדל השני נוגע להפעלת הטכנולוגיה. ההיגיון שמאחורי הרתעה גרעינית הוא שעצם קיומו של הנשק בידיו של שחקן מסוים בזירה הבינלאומית עושה את שלו, גם בלי שהוא ישתמש בו בפועל. כשמדובר בבינה מלאכותית, ההיגיון הפוך. איש אינו משקיע מיליארדים במערכת שמחכה ליום פקודה. היא נבנית כדי לפעול מיד בשוק, בייצור, ברפואה, בצבא, ומי שעוצר במרוץ ההטמעה הזה נשאר מאחור. המשמעות היא שגם השחקנים הזהירים ביותר נדחפים קדימה באותו נימוק: אם אנחנו נעצור, מישהו אחר יעקוף אותנו.
נוסף על כך, פצצה היא חפץ פסיבי. כדי שהיא תתפוצץ דרוש אדם שיקבל החלטה לפוצץ אותה. אנחנו מדמיינים את ה־AI באותה תבנית, כמו מכונה שיום אחד תתעורר ותמרוד בבני האדם שיצרו אותה, אבל מומחי הבטיחות בתחום מתריעים שמערכת כזאת עלולה לגרום נזק בלתי הפיך דווקא מפני שהיא מבצעת ביעילות מושלמת בדיוק את מה שביקשנו ממנה לעשות.
כך, בניסוי שערכה OpenAI ב־2016, אומנה מערכת AI לשחק במשחק מרוצי סירות. המפתחים הניחו שניצחון במרוץ, שמתגמל בנקודות את הסירה שמפעיל המודל, הוא מדד נאה לניצחון, אלא שהמערכת עשתה את חישוביה ובחרה בטקטיקה שונה: היא גילתה פינה נידחת במסלול שבה ניתן לצבור נקודות באמצעות איסוף חוזר של שלושה אייקונים שמאיצים את מהירותה, שצצים בו שוב ושוב, ונשארה שם לחוג במעגלים. הסירה שהפעיל המודל לא סיימה ולו הקפה אחת אבל הניקוד הסופי שלה היה גבוה ב־20% מזה של שחקנים אנושיים שסיימו את המרוץ. זהו מקרה מבחן משעשע כשמדובר במשחק, אבל הוא עשוי להיות משעשע הרבה פחות אם למשל מדובר במערכת שמנהלת את רשת החשמל.
ואולי הפיצוץ כבר קרה?
כלת פרס נובל לשלום לשנת 2021, מריה רסה, אמרה בחודש שעבר באותו מפגש ברומא כי לדעתה האנושות כבר עברה את "רגע הטריניטי" של הבינה המלאכותית, ושהפצצה למעשה כבר התפוצצה בדממה גמורה בתוך מערכות המידע שלנו. ברגע הטריניטי המקורי, ב־16 ביולי 1945, האיר הפיצוץ הגרעיני הראשון בהיסטוריה את מדבר ניו מקסיקו. פטריית העשן נראתה למרחוק, גל ההדף ניפץ אינספור שמשות, ותושבים התעוררו בבהלה מקול הנפץ העז. הצבא האמריקאי סיפר שמחסן תחמושת התפוצץ, התקשורת קיבלה את ההסבר, והעולם המשיך כרגיל. האמת התגלתה רק שלושה שבועות לאחר מכן כשארצות הברית הטילה את הפצצה האטומית הראשונה על הירושימה. במילים אחרות: הפיצוץ הגרעיני הראשון לא שינה דבר. העולם התעורר והחל להבין את המשמעויות רק לאחר שפצצה דומה החריבה עיר שלמה וגרמה למותם של המוני אנשים.
התובנה הזו מפרקת את ההנחה המנחמת שבה רובנו מחזיקים, שלפיה אם המצב יהיה מסוכן מספיק, ממשלות יתעוררו בזמן. אבל הן לא התעוררו אחרי טריניטי, אלא אחרי הירושימה. גם הקריאה המוסרית הגדולה של אותו עידן הגיעה באיחור של עשור, כשהפיזיקאי אלברט איינשטיין והפילוסוף ברטראנד ראסל הזהירו את העולם מסכנות האטום במילים "אנו פונים אליכם כבני אדם לבני אדם: זכרו את אנושיותכם, ושכחו את השאר". החותמים על הצהרת רומא של קיץ 2026 חתמו אותה באותן מילים בדיוק. השאלה שנותרה פתוחה היא אם הן יניעו את מקבלי ההחלטות לפעולה.
הכותבת היא מנכ״לית Humane AI, מומחית אינטראקציית אדם־AI
