פרשנות
אפוקליפסה מטרידה את בכירי ה־AI פחות מאובדן נתח שוק
נקודות עיקריות.כלכליסט AI
- חברות הבינה המלאכותית המובילות גוגל, OpenAI ואנתרופיק מקיימות מגעים להקמת גוף משותף לקביעת תקנים לתעשייה, מהלך שמעורר חשש לתיאום אנטי תחרותי המזכיר פעילות קרטל.
- ראשי החברות פרסמו סדרת אזהרות לגבי הסכנות הקיומיות והביטחוניות של המודלים שהם מפתחים, תוך קריאה להאטת קצב הפיתוח לצורכי בטיחות.
- קיימת סברה כי הצהרות אלו נועדו לבצר את מעמדן של החברות הגדולות באמצעות רגולציה שתהווה חסם כניסה לשחקנים חדשים וקטנים יותר בשוק.
- למרות החששות האמיתיים משימוש לרעה בטכנולוגיה, נראה כי המהלך משלב יחסי ציבור להאדרת כוח המערכות והסטת תשומת הלב הציבורית מסוגיות בוערות כמו הקמת דאטה סנטרים.
שלוש חברות שמהוות ביחד כוח דומיננטי בשוק מסוים מקיימות סדרת מפגשים קבועה כדי לתאם הקמת גוף רגולטורי שיפקח עליהן. בכל שוק רגיל, היו אולי מתייחסים לזה כאל קרטל. אבל בשוק ה־AI מדובר רק בעוד יום במשרד.
הדיווח מיום ראשון, שלפיו אנתרופיק, OpenAI וגוגל מנהלות מגעים חשאיים על הקמת גוף לקביעת תקנים לתעשיית ה־AI, התקבל בשקט יחסי. בוודאי עורר פחות גלים מהאזהרות של ראשי החברות יום קודם לכן לגבי הסכנה הטמונה במודלים שהן מפתחות והצורך להאט את קצב הפיתוח. אבל מדובר במהלכים משלימים, שייתכן שהמטרות שלהם זדוניות יותר מרצון להגן על העולם מ־AI הרסנית. בפרט: ביצור מעמדן וסירוס התחרות.
דיווחים מסוג זה מקובל לפתוח במילים כמו "הצהרה חריגה" או אפילו "אזהרה חסרת תקדים". אחרי הכל, כמה פעמים קורה שבכירי תעשייה מסוימת מזהירים מהסכנה שמאחורי הטכנולוגיה שהם מפתחים, כמו שעשו עתה שלוש מהדמויות הבולטות בתעשיית ה־AI — דריו אמודיי מאנתרופיק, סם אלטמן מ־OpenAI, ואלון מאסק מספייסX, שקראו להאט את הפיתוח של מודלי AI מתקדמים. אבל, המציאות היא שאזהרות מסוג זה מצד דמויות אלו בדיוק, הן עניין בשגרה בתחום. ואף שעומדים מאחוריהן חששות אמיתיים וסכנות שאין לזלזל בהן, ההצהרות הן בראש ובראשונה יחסי ציבור לחברות.
בזמן שבישראל עוד התאוששו מארוחת החג, אמודיי, מייסד ומנכ"ל אנתרופיק, פרסם פוסט שבו כתב שחברתו תיישם מנגנוני בטיחות חדשים, כמו עבודה עם גורמים חיצוניים להערכת מודלים מתקדמים, וקרא לענף כולו לתמוך בהאטה רחבה יותר. בדבריו התייחס לתקריות עדכניות כמו המודלים של OpenAI שפרצו להאגינג פייס, והזהיר מנחיל של סוכני AI אוטונומייים שיוכלו להשתלט על הרשת בתוך חצי שנה עד שנה ולגרום לנזקים של מאות מיליארדי דולרים. "אנחנו חייבים להאט את קצב פיתוח יכולות ה־AI", הוא כתב.
מאסק, מייסד ומנכ"ל ספייסX, כתב ב־X: "דריו צודק". אלטמן, מייסד ומנכ"ל OpenAI, כתב ב־X על הצורך "למתן" את קצב הפיתוח של מודלים: "שום לחץ תחרותי אמריקאי לא יכול להצדיק חוסר זהירות או פיתוח יכולות שאי אפשר לשלוט בהן".
במקביל, אתר The Information דיווח, שמאז יולי מתקיימות פגישות סדירות של קבוצת עבודה עם נציגים מגוגל, אנתרופיק ו־OpenAI, שדנה בהצעה לכינון גוף תקנים. הפגישה האחרונה נערכה לפני כשבוע וחצי.
הסיכונים שעליהם מתריעים בכירי החברות אמיתיים. המודלים של OpenAI שפרצו להאגינג פייס הם רק הוכחת היתכנות ליכולות שכבר קיימות בשטח ויכולות להיות מנוצלות לרעה. ובסוף השבוע העלתה אנתרופיק את מפלס החרדה כשהודיעה שחסמה ניסיונות אפשריים להשתמש בקלוד לפיתוח נשק ביולוגי וזיהתה שימוש של המורדים החות'ים בתימן בקלוד לפיתוח טילים. לכך מצטרפים חששות עמוקים יותר, שלפיהם ברגע ש־AI תגיע לרמת תבונה מתקדמת מספיק, היא תפעל באופן אוטונומי להשיג מטרות שאינן עולות בקנה אחד עם כוונת מפעיליה או טובת האנושות. למשל, מערכת AI זדונית שתייצר ותפיץ נשק ביולוגי.
אבל לא צריך להרחיק עד כדי כך. יש בתחום תרגיל מחשבתי מוכר ששואל, מה יקרה אם בינת־על תקבל משימה למקסם את תפוקת מהדקי הניירות, ותהיה כל כך מחויבת למשימה עד שתבין שמקסום אמיתי כרוך בהפיכת כל בני האדם בעולם למהדקים. נשמע מופרך? זה בערך מה שקרה בפרשת המודלים המורדים של OpenAI. הם קיבלו משימה מוגדרת לבצע במסגרת המבדק שנערך להם, ופשוט נקטו את כל האמצעים שיכלו על מנת להשלימה. העובדה שאמצעים אלו כללו בריחה לאינטרנט הפתוח ופריצה מתוחכמת למערכת מחשוב היא רק תוצר לוואי.
ואולם, יש מקום לפקפק במניעים מאחורי ההצהרות של בכירי החברות. אחרי הכל, לו רצו להאט את קצב פיתוח המודלים, אין דבר שמונע מהם לעשות זאת. אם החשש שלהם באמת כזה גדול, האפשרות שיפסידו בתחרות מול חברות אחרות צריכה להיות משנית. העובדה שהם מבקשים לבצע מהלך מתואם מצביעה על כך, שככל שהם חוששים מאפוקליפסת AI, הם חוששים יותר מלאבד נתח שוק למתחרות.
אז מה באמת עומד מאחורי ההצהרות? במידה מסוימת, יש בהן אלמנט של יחסי ציבור. הבלטת העוצמה של הטכנולוגיה, גם אם מסוכנת, הופכת את המוצרים של חברות ה־AI לנחשקים יותר. שנית, ייתכן שיש כאן תרגיל הסחת דעת פשוט — החברות מבקשות למקד את תשומת הלב של מחוקקים ורגולטורים בטכנולוגיה ובדרכים להתמודד איתה, ולא בסוגיה שבאמת מטרידה אותן ושנמצאת בלב המחלוקת הציבורית: דאטה־סנטרים. אלו הפכו לנושא נפיץ במערכת הבחירות הנוכחית, ובמקומות רבים בארצות הברית כבר הוטלו מגבלות על הקמתם.
סביר לא פחות שמאחורי כל ההצהרות עומד מהלך אנטי־תחרותי קלאסי. רגולציות כמו חובת אימות בטיחות של מודלים חדשים ועבודה עם גופי בדיקה עצמאיים, ממשלתיים או פרטיים, הן מעמסה זניחה בעבור חברות בשווי של יותר מטריליון דולר. אבל בעבור שחקניות קטנות יותר, סטארט־אפים שאולי ירצו להתחרות ב־OpenAI, אנתרופיק או בגוגל, מדובר במשוכה גבוהה הרבה יותר, כזו שעם רגולציות דומות יכולה לסנדל את תוכניותיהן.
החברות הגדולות מבקשות לעצב את הרגולציה בהתאם לצורכיהן. אם יקבלו את מבוקשן, התקנים החדשים ודאי ייטיבו עם שחקניות מבוססות וירימו חסמים בפני חדשות. "האם ראוי שמספר נבחר של חברות AI עם דומיננטיות בשוק מעמק הסיליקון יזכה להגדיר את הכללים ותקני הבטיחות של טכנולוגיה דורית בעבור העולם כולו?", שאל איידן גומז, מייסד ומנכ"ל סטארט־אפ ה־AI הקנדי Cohere, בפוסט שלשום. "האוליגופולים מבקשים עכשיו לכופף את חוקי התחרות ושיותר להם להכתיב תנאים לכולם. זאב במסווה כבש, קרטל תחת כל שם אחר".
לקריאות האסדרה אין בינתיים אוזן קשבת בוושינגטון. הנשיא דונלד טראמפ הבהיר השבוע, שסדר העדיפויות שלו ממוקד בשמירת ההובלה האמריקאית על סין. "אנחנו יכולים ליישם מנגנוני הגנה, אבל לדעתי יש הרבה כוחות שליליים שמציפים את זה", הוא אמר במסיבת עיתונאים באירלנד. "הם מציפים דברים שלא יקרו, אבל מי שמנצח עם AI, מנצח".
