בתחילת השבוע הבא ייכנס לתוקף שלב מרכזי נוסף של חוק הבינה המלאכותית האירופי — הניסיון המקיף הראשון בעולם להכפיף את הטכנולוגיה לחקיקה מחייבת שכוללת סנקציות כלכליות. הצעד הזה מטיל על חברות חובת שקיפות — גילוי אינטראקציה עם AI וסימון תוכן סינתטי ודיפ־פייק כמו סרטונים לא אמיתיים בכיכובם של אנשים אמיתיים מאוד — ומסמן את תחילת האכיפה בפועל בתחום ברמה הלאומית והאירופית. להתפתחות הזו יש השלכה ישירה גם על ישראל: חברות הייטק מקומיות שהמוצרים או השירותים שלהן מיועדים לשוק האירופי יחויבו ליישר קו.
אלא שהמציאות מורכבת יותר משאיפות המחוקקים בבריסל, ועקב לחצים כבדים מצד התעשייה ופערי מוכנות פרוצדורליים, יישום המגבלות המכבידות ביותר, שנוגעות למערכות שמוגדרות "בסיכון גבוה" — למשל בתחום הבריאות והפיננסים — נדחה לסוף 2027 ול־2028.
מנגד, בצדו השני של האוקיינוס, תמונת המצב שונה בתכלית: ארצות הברית מקדמת מודל המבוסס על שיתוף פעולה וולונטרי בין הממשל למגזר הפרטי והחברות נענות בין היתר משיקולי מיתוג עצמי. העמדה הזו התחדדה כשוושינגטון סירבה לחתום בתחילת 2025 על הצהרת פסגת פריז בנושא ה־AI שנועדה לקדם יצירת בינה מלאכותית שלא מסכנת את המשתמשים בה.
כדי לגשר בין הגישות האו"ם מנסה להוביל מודל של דיאלוג עולמי אך התוצאה של כל זה היא בלגן. או במילותיו של מזכ"ל האו"ם אנטוניו גוטרש: "טלאים של כללים סותרים מייקרים עלויות, מפצלים את העולם ולא מגינים על אף אחד".
בתווך, בין הבלמים המדיניים ללחצי השוק, האזהרות רק הולכות ומתחדדות. מחברי הדו"ח שהוצג בז'נבה הזהירו שהמדע פשוט אינו מסוגל להבטיח ש־AI לא יגרום לנזק קטסטרופלי. כיצד אם כן נוכל לייצר חוקים יעילים נגד סכנה עתידית? הרי גם שלושת המדענים שהניחו את היסודות ל־AI חלוקים ביניהם בשאלה אם היצירה שלהם תציל את האנושות או תמחק אותה.
כשבמערב רבים, סין חוגגת
ב־2019, כשג'פרי הינטון, יהושע בנג'יו ויאן לקון — שלושתם אקדמאים מוערכים — עלו יחד לבמה לקבל את פרס טיורינג, הנובל של מדעי המחשב שניתן להם על תרומתם לפריצות הדרך בתחום הלמידה העמוקה (Deep Learning), הם נראו כמו שלישייה בלתי ניתנת להפרדה. אלא שבתוך ארבע שנים בלבד, הברית קרסה והשלושה מנהלים ביניהם את אחת המלחמות האינטלקטואליות הסוערות של ימינו.
במחנה הדורש את ריסון הטכנולוגיה ניצב ג'פרי הינטון, שעזב את גוגל כדי שיוכל להתריע בחופשיות מפני הסיכונים המובנים במערכות שסייע לפתח והפך מאז לפעיל למען הגברת המודעות לסיכוני הבינה המלאכותית. לשיטתו, מודלי שפה גדולים ורשתות עצביות עמוקות (Deep Neural Networks) כבר מזמן אינם מנבאים רק את המילה הבאה בטקסט שהם יוצרים, אלא מראים הבנה פונקציונלית של העולם. מתוך היכולת הזו נגזר התרחיש הידוע בספרות בטיחות ה־AI כ"התכנסות אינסטרומנטלית", רעיון שביסס הפילוסוף ניק בוסטרום: החשש שמערכת תבונית תפנים באופן עצמאי שכדי להשיג כל מטרה שניתנה לה, עליה לצבור משאבים, להבטיח את הישרדותה וכמובן למנוע את כיבויה.
הינטון חושש שכשמערכות AI יתבקשו לבצע מטרות מורכבות, הן יפתחו לעצמן תת־מטרות, כגון התנגדות לכיבויין, משום ששליטה רבה יותר מסייעת להשגת כל יעד. הינטון מזהיר שהאנושות תישאר חסרת אונים מולן משום שהן יכולות לעבוד בקנה מידה נרחב, למזג ידע וכך לפעול במהירות עצומה. פער האינטליגנציה שייווצר, לטענתו, יותיר אותנו ללא יכולת לפקח על ה־AI או למנוע ממנו לבצע מניפולציות.
בנג'יו, שותפו המרכזי לתחזיות, כיום פעיל למען היישום הבטוח של בינה מלאכותית, מנסה לתרגם את האזהרות לעשייה. הוא מוביל את כתיבת דו"ח הבטיחות הבינלאומי באו"ם, מקדם אמנות בינלאומיות שיבלמו פיתוח חסר רסן ורואה בפיקוח על משאבי המחשוב שנדרשים לאימון המודלים — השבבים וחוות השרתים — כלי אכיפה מרכזי.
מולם, בצד השני של המתרס, ניצב לקון שעזב לאחרונה תפקיד בכיר במטא והקים סטארט־אפ עצמאי. לטענתו, המודלים היום סובלים מכשל מבני חמור: הם נוטים לצבור שגיאות קטנות שמתפתחות לכדי "הזיות". חוסר היציבות הזה מוכיח, לשיטתו, שהמערכות הקיימות רחוקות מאינטליגנציה אמיתית, ושמבחינת יכולתן להבין את המציאות הן עדיין חכמות פחות מחתול. אינטליגנציה, לדבריו, לא יכולה להתפתח רק מתוך ניתוח טקסטים; היא דורשת תפיסה חושית. יכולות אלה מאפשרות אפילו לבעלי חיים לפתח שכל ישר ותפיסת מרחב שנעדרות מהמודלים הקיימים. את מערכות ה־AI הבאות הוא מבטיח שיהיה ניתן לתכנן כך שיונחו על ידי מודל של העולם הפיזי, ויהיו בטוחות וצייתניות מטבען.
איך מתמחרים סיכון?
המחלוקת היסודית הזו חושפת שהרגולציה על AI לא יכולה בשלב זה להישען על הכרעה מדעית מוסכמת, שאינה קיימת, אלא על ניהול סיכונים מעשי. כשאי אפשר להכריע את הוויכוח בכלים מדעיים, אנחנו נותרים במצב של אי־ודאות עמוקה. זו מציאות שבה לא רק שההסתברויות לאובדן שליטה אינן ידועות, אלא שמבחינה מעשית לא ניתן לתמחר את הסיכון שבה. מנגד, גם לעקרון הזהירות יש מחיר כבד: דרישה לבלימת ההתקדמות מייצרת שיתוק ומסתכנת בהעברת היתרון הגיאופוליטי במרוץ החימוש הטכנולוגי למדינות שאינן מחויבות לריסון עצמי, כגון סין. אז איך מחליטים?
התרחיש שבמרכז הוויכוח ניתן לבדיקה רק בדיעבד. עם זאת, ניתן כבר כיום לבצע הערכות יכולת מחייבות למודלים לפני שחרורם, לבדוק אותם בידי גורמים עצמאיים, להחיל חובת דיווח על תקריות חריגות ולחזק את אוריינות המשתמשים. כל אלה אינם דורשים פריצת דרך מדעית, וניתנים ליישום מיידי. הם נחוצים אם הינטון ובנג'יו צודקים, ולא מזיקים אם לקון צודק. גם אם ה־AI עדיין אינו חכם יותר מחתול.
הכותבת היא מנכ״לית Humane AI, מומחית אינטראקציית אדם־AI
