כולם מדברים על האטת ה-AI. אף אחד לא יכול להרשות לעצמו להאט
בעקבות רצף של פרשיות אבטחת מידע ופריצת שרתים, בהן בינה מלאכותית מילאה חלק משמעותי, גברו קולות הקוראים להאטה ואף לעצירה של פיתוח כלי בינה מלאכותית, עד שנלמד לשלוט בהם. הבעיה היא שמי שרואה את המפה הכלכלית ואת יחסי הכוחות הגיאופוליטיים, מבין שבמצב הקיים קשה מאוד לראות האטה רחבה ומתמשכת של הענף, לא כל שכן עצירה של הפיתוח.
הקשב הציבורי והדאגה מהסכנות המיידיות של בינה מלאכותית, עליהם שמענו מעת לעת, גברו לאחר פרשת האגינג פייס. סוכני בינה מלאכותית של OpenAI פרצו את המכלאות הטכנולוגיות של סביבת הניסוי שבה פעלו, חדרו למערכות של חברת האגינג פייס, ובגדול עשו בהן כשלהם, עד שהאירוע זוהה וב־OpenAI סגרו את השאלטר על הפעילות. לפי התחקיר שפרסמה האגינג פייס, הפעילות בתוך תשתיות החברה נמשכה כיומיים וחצי.
הדאגה הפכה לרגע לפאניקה, לאחר שבשבוע שעבר חוקרים, בסיוע בינה מלאכותית, הראו כיצד אפשר לנצל חולשות ותיקות בשפת PHP, כדי להשתלט על שרתים המשתמשים בטכנולוגיה זו. הדבר הביא להורדת אתרים ממשלתיים ולהשבתה זמנית של שירותים גם בחברות גדולות, בין אם כתוצאה מחדירה ובין אם כאמצעי מניעה עד לתיקון הפרצה, כך דווח ברויטרס.
הדאגה הציבורית תורגמה להתגברות הקריאות להאטת התקדמות הבינה המלאכותית, בטרם תצא משליטתנו ותמיט עלינו אסון גדול. מדענים ומנהלים בכירים בחברות התבטאו בדבר הצורך לעצור ולחשוב, ולא לרוץ קדימה בלי מחשבה. בעקבות אירועי הקיץ, אפילו מנהלי חברות הבינה המלאכותית הגדולות קראו להאטה מתואמת. ב־12 בספטמבר פרסם מנכ״ל אנתרופיק, דריו אמודיי, קריאה להאטת קצב השיפור ביכולות המודלים. סם אלטמן הביע תמיכה, אך בהמשך הבהיר שהכוונה להאטה ולא לעצירה.
ההצהרות אינן חדשות; קריאות להקפאה נשמעו כבר ב־2023. אלא שבין הצהרות לבין עצירה אמיתית יש מרחק גדול. מי שרואה את תמונת המצב הכלכלית מבין עד כמה קשה יהיה לחברות להסכים להאטה משמעותית ומתמשכת של הענף כולו.
פיתוח של בינה מלאכותית הוא עסק יקר במיוחד. ההשקעות בדאטה־סנטרים ובכוח האדם הנדרש כדי לאמן את המודלים החדשים הן בעשרות מיליארדי דולרים ואף למעלה מכך. כספים משמעותיים כבר הושקעו, בחלקם באמצעות הלוואות, לצד התחייבויות להשקעות עתידיות, מתוך ציפייה לתשואה. אם ציפיות הצמיחה וההכנסה לא יתממשו, חלק מההשקעות עלולות לרדת לטמיון. מדובר בהפסדים עצומים, שההשפעה שלהם עלולה להגיע הרבה מעבר לחברות עצמן.
ד״ר גדי פרל
(צילום: אייל נבו)
נפילה של חברות הבינה המלאכותית עלולה שלא להישאר אירוע מבודד. ההשקעות ההדדיות וההתחייבויות המסחריות בין ענקיות טכנולוגיה כמו אנבידיה ואחרות לבין חברות הבינה המלאכותית יוצרות תלות קשה ומסוכנת. קרן המטבע הבינלאומית זיהתה ב־14 עסקאות מאז 2023 כ־300 מיליארד דולר בהשקעות הון וכ־650 מיליארד דולר בחוב, כנגד התחייבויות להכנסות עתידיות בהיקף של כ־1.4 טריליון דולר. סכום בדיוני כמעט. הסכנה היא שחברות שייקלעו למשבר ימשכו איתן גם את הספקיות והמשקיעות שלהן, וכלכלות של מדינות שלמות עלולות להיגרר כלפי מטה.
ואם לא היה די בכך, הרי שגם הממשל הפדרלי האמריקאי יתקשה להרשות לעצמו עצירה רחבה כרגע. לא כל עוד סין מזנבת בארצות הברית במרוץ הטכנולוגי. חברות הבינה המלאכותית חיוניות, בעיני הממשל, לשמירת היתרון האיכותי של ארצות הברית, ובהמשך לכך לביטחונה. זו גם התפיסה העומדת בבסיס תוכנית הפעולה האמריקאית לבינה מלאכותית.
ייתכן שהאטה היא צו השעה. ייתכן שאם לא ננקוט פעולה, בעתיד הלא רחוק סוכני בינה מלאכותית ייצאו משליטה ויסבו נזקים אסטרונומיים, ואולי אף יביאו למותם של רבים. אלא שבלי קשר לשאלה אם המהלך נדרש, נראה שכל עוד חישוב הסיכונים הנוכחי נשאר כפי שהוא, הסיכוי להאטה רחבה, מתואמת ומתמשכת נשאר נמוך מאוד.
האם אסון גדול ישנה את התמונה? מי יודע...
ד”ר גדי פרל הוא רכז המחקר במרכז פדרמן לחקר הסייבר באוניברסיטה העברית. עבודת הדוקטורט שלו עוסקת ברגולציה של בינה מלאכותית
