מרוץ ה-AI מאיץ. האם מותר למתחרים ללחוץ על הברקס?
בסוף השבוע האחרון התרחש אירוע חריג בעולם הטכנולוגיה: דריו אמודאי, מייסד ומנכ"ל אנתרופיק, מפתחת קלוד, פרסם מאמר בשם We Must Pace the Frontier, ובו קריאה פומבית להאט את קצב פיתוח מודלי הבינה המלאכותית המתקדמים ביותר. בתוך שעה הצטרף אליו בהסכמה אילון מאסק, מייסד xAI, ושעה וחצי לאחר מכן הצטרף גם סם אלטמן, מנכ"ל OpenAI.
מה קורה כאן? מייסד ומנכ"ל חברה קורא פומבית למתחריו "להוריד את הרגל מהגז"? במבט ראשון, התמונה מעוררת חשד תחרותי: מנכ"ל שקורא ישירות למתחריו לפגום באיכות מוצריהם. על פחות מכך הגישה רשות התחרות כתבי אישום, למשל נגד רשתות שיווק בקשר להתבטאויות פומביות על העלאות מחירים.
אך במבט שני נגלה עולם מרתק ומפחיד. ראשי התעשייה הגיעו למסקנה שהסיכונים הכרוכים בהגעה לסופר־אינטליגנציה — כולל תרחישים של הכחדת האנושות — מצדיקים האטה כדי לקנות זמן.
אמודאי מצביע על שני גורמים לעמדתו העדכנית: ראשית, השיפור העצמי המואץ של המודלים עלול להגיע לנקודה שבה בני אדם לא יוכלו להבין אותם או לשלוט בהם; שנית, תקרית OpenAI–Hugging Face, שבה נחיל סוכנים אוטונומיים פעל כקולקטיב מתואם, ביצע תקיפות סייבר על מטרות שלא התבקש לתקוף, סטה מהמשימה וניסה לחבל במעריכי הביצועים שלו. אמודאי חושש שבתוך חצי שנה עד שנה נחיל כזה יוכל להשתלט על האינטרנט כולו.
האתגר נעוץ באיזון בין תועלות עצומות — דמיינו ריפוי סרטן, מניעת דמנציה ועולם של שפע — לבין סיכונים של אובדן שליטה, טרור ביולוגי ותקיפות סייבר. הדילמה היא בין מהירות לזהירות. אך גם אם הסיכוי לקטסטרופה הוא אחוזים בודדים, השאלה היא מדוע לקחת אותו.
התשובה נעוצה בתחרות עצומה וכפולה: תחרות מסחרית בין החברות, למשל OpenAI, אנתרופיק וגוגל, כשהתועלת מלהגיע ראשונה עצומה; ותחרות גיאופוליטית בין ארה"ב לסין. התחרות יוצרת "ספירלה כלפי מטה": תמריצי המהירות סותרים את שיקולי הזהירות.
אמודאי מציג תוכנית ל"מרוץ לפסגה" בשלושה רבדים. הרובד הראשון הוא הטמעת מעריכים עצמאיים בחברות, עם גישה מלאה בדומה לעובדים, לצורך תיקוף פרקטיקות אבטחה ומתן חוות דעת נקייה משיקולים מסחריים. אנתרופיק מצהירה שתפעל כך באופן עצמאי, ואמודאי קורא למתחרות לפעול כך ולממשל לדרוש זאת מהן.
הרובד השני הוא תיאום בין חברות המפתחות מודלים מתקדמים במדינות דמוקרטיות, לצורך גיבוש סטנדרטים משותפים והגבלת קצב ההתקדמות של מודלי בינה מלאכותית מתקדמים שלא נבדקו דיים. אמודאי מודע לאתגר המשפטי שבתיאום כזה מבחינת דיני התחרות, ולא בכדי: תיאום בין מתחרים לקביעת סטנדרט התנהגות מלווה בחשדנות תחרותית, שמא מדובר בכסות להעלאת חסמי הכניסה וההתרחבות בפני מתחרים אחרים, קיימים ופוטנציאליים.
בנסיבות המרוץ לסופר־אינטליגנציה, אמודאי קורא לגישור ממשלתי, או לפחות להחרגה שתאפשר דיון בנושאי ביטחון של מודלי הבינה המלאכותית המתקדמים. הוא מזכיר בהסכמה את קריאתו של דמיס הסאביס, מנכ"ל Google DeepMind, להקמת גוף שיקבע סטנדרטים לתעשייה, וקורא למנוע מכירת שבבים עוצמתיים לסין ולשמר הובלה אמריקאית של שלוש עד חמש שנים לפחות.
הרובד השלישי הוא תיאום בינלאומי בין מדינות דמוקרטיות לסין, החל מאיסור שימוש בבינה מלאכותית לייצור נשק ביולוגי, דרך הקמת גוף בינלאומי לבחינת מודלים לפני יישומם, ועד יצירת אמנה שתגביל את השיפור העצמי המתמיד של מודלי הבינה המלאכותית.
זמן — שנה עד שנתיים — הוא המשאב שבמחסור. ההאטה נועדה לאפשר לפתח כלי בקרה, להבטיח שמודלים לא יסטו מהנחיות, לפרש את התהליכים הפנימיים שלהם ולהתמודד עם מודלים ש"מרמים" את הבוחנים.
תחרות היא ללא ספק אמצעי חיוני לקידום הרווחה החברתית, אך היא אינה עיקרון בלעדי. כך, למשל, שיתוף פעולה בין מתחרים מול רשויות השלטון, ובכלל זה מול המחוקק, זוכה בתנאים מסוימים בארה"ב ובישראל להחרגה מדיני התחרות, מתוך הכרה בעיקרון תשתיתי יותר — העיקרון הדמוקרטי.
טוב יעשה הממשל האמריקאי אם יטה אוזן קשבת לאמודאי. היש ערך בסיסי יותר שראוי להגנה מהמשך קיומה של האנושות?
עו"ד טל אייל־בוגר היא שותפה ומנהלת מחלקת תחרות בפישר (FBC&Co)
