לפעמים צריך לקרוא מנכ"לי טכנולוגיה כפי שקוראים פוליטיקאים. החודשים האחרונים זימנו מספר רגעים כאלה. כמה מהאנשים החזקים ביותר במרוץ הבינה המלאכותית פרסמו, בזה אחר זה, מניפסטים על העתיד. הם כתבו על חירות וכוח, על בטיחות ושפע, על תפקידה של המדינה ועל החברה שעשויה להתעצב סביב מערכות AI חזקות בהרבה מאלה שאנחנו מכירים היום. אלא שהכותבים האלה לא מתבוננים בעתיד מהצד — הם בונים את הטכנולוגיה שתעצב אותו ופועלים להשפיע על הכללים שיחולו עליה. לכן יותר משהם תחזיות, המניפסטים שלהם מספרים משהו על העולם שהם היו רוצים לראות.
במניפסט "העתיד הוא של כולם", שפרסם החודש מארק צוקרברג, הוא מציג תפיסת עולם נחרצת לעידן הסופר־אינטליגנציה — העידן שבו מערכות AI יעלו ביכולותיהן על אלה של בני אדם בכל תחום קוגניטיבי משמעותי. אם AI יהיה כוח עצום, הוא טוען, אסור להשאיר אותו בידי קומץ ממשלות, חברות או מומחים. לשיטתו, ככל שהכוח יהיה מבוזר יותר, כך העתיד יהיה חופשי ובטוח יותר. לכן לכל אדם צריך להיות AI אישי שמכיר אותו, פועל בשמו ועוזר לו ללמוד, ליצור, לעבוד ולנהל את חייו. וגם לבטיחות הוא מציע את אותו פתרון: לא סופר־אינטליגנציה אחת שמחליטה מה הם "ערכי האנושות", אלא מערכות רבות שמשרתות אנשים שונים ומאזנות זו את זו, כמו מוסדות של חברה דמוקרטית.
יש כאן אירוניה שקשה להתעלם ממנה: מי שעומד בראש אחת מחברות הטכנולוגיה החזקות בעולם מציב דווקא ריכוז כוח כאיום המרכזי. את המסמך הוא חותם לא כ"מנכ"ל מטא", אלא פשוט "מארק".
דריו אמודיי, מנכ"ל ומייסד אנתרופיק, מסתכל על אותו עתיד ורואה סכנה שונה בתכלית. ביוני הוא פרסם את המניפסט "Policy on The AI Exponential", שנפתח בסצנה מ"שר הטבעות": שני הוביטים מנסים להעיר את טריבירד (Treebeard), העץ החכם והאיטי, בזמן שהיער נכרת סביבו. כך, מבחינתו, נראים היחסים בין ה־AI למוסדות הפוליטיים — הטכנולוגיה דוהרת קדימה, בעוד החקיקה נעה לאט. אם הקצב הזה יימשך, הוא מזהיר, אנחנו עלולים להגיע בתוך שנה או שנתיים ל"מדינה של גאונים בתוך דאטה־סנטר" עוד לפני שהמוסדות יספיקו להגיב.
אמודיי קורא לבדיקות חיצוניות של מודלים, דרישות אבטחה ודיווח על תקריות, ובמקרים מסוימים גם הרשאה למדינה למנוע שחרור של מודל מסוכן. זו תפיסה שנוחה לאנתרופיק, שבנתה את זהותה סביב בטיחות ופיקוח. ככל שפיתוח מודלי frontier (המודלים שבחוד החנית של היכולת הטכנולוגית) מחייב יותר מומחיות ועמידה בדרישות רגולטוריות, כך גדל היתרון של החברות שכבר מחזיקות בכל אלה.
דמיס האסביס, ממייסדי Google DeepMind, מציע מודל אחר. מבחינתו, הפיקוח על מערכות ה־AI המתקדמות ביותר צריך להתבסס על מוסד שבו המדינה והתעשייה יעבדו יחד. ביולי הוא פרסם את המניפסט "A Framework for Frontier AI and the Dawning of a New Age", שבו הוא טוען כי המרוץ לבינה מלאכותית כללית (AGI, מערכת המסוגלת לבצע מגוון רחב של משימות אינטלקטואליות ברמה אנושית או גבוהה ממנה) מתקדם מהר יותר מהיכולת שלנו להבין את הסיכונים. לכן הוא מציע שיוקם גוף שיבחן מודלי frontier לפני שחרורם, ובמקרה הצורך יוכל אפילו לתאם האטה בפיתוח בין המעבדות.
האסביס אינו מציע רגולטור חיצוני לתעשייה, אלא שותפות ציבורית־פרטית, שתמומן במידה רבה בידי התעשייה ותפתח בתחילת דרכה את מבחניה בהתייעצות עם מעבדות ה־frontier עצמן. כך החברות שבונות את המערכות החזקות ביותר אינן רק מפוקחות, אלא גם שותפות בעיצוב מנגנון הפיקוח עצמו. בעולם שהוא מציע, התעשייה אינה עומדת רק בצדו השני של שולחן הפיקוח. היא יושבת לידו.
באיזו בעיה בכלל מדובר?
שלושה מניפסטים כאלה בפרק זמן קצר אינם רק צירוף מקרים מעניין. הם מופיעים ברגע שבו השאלה מי יעצב את כללי עידן ה־AI עדיין פתוחה. ולכן מי שבונים את הטכנולוגיות כבר מציעים תשובות. המניפסטים מנוסחים במונחים של ערכים גדולים: חירות, אחריות, בטיחות, שגשוג אנושי. אבל כשקוראים אותם זה לצד זה, קשה לפספס עד כמה כל אחד מהם מתיישב גם עם נקודת הכוח של החברה שמאחוריו. העתיד הרצוי מבחינה ערכית הוא גם עתיד שבו המודל העסקי והיתרונות של החברה מקבלים מקום מרכזי.
וזה חשוב משום שמחברי המניפסטים אינם פילוסופים שמתבוננים במהפכת ה־AI מבחוץ. הם עומדים בראש הגופים שבונים אותה. כשהם מגדירים מהי הסכנה ומי צריך לפקח, הם מציעים גם את הפריזמה שמבעד לה ממשלות, רגולטורים והציבור יבחנו את הטכנולוגיה שלהם. במובן הזה, המסמכים האלה מתפקדים גם כניירות עמדה במאבק על כיוון הרגולציה. השפעה על מדיניות אינה מתחילה רק בניסיון להכניס סעיף כזה או אחר לחוק. היא מתחילה קודם, בשאלה מהי בכלל הבעיה שהרגולציה נועדה לפתור. מי שיצליח לקבע את השאלה ואת הפריזמה שמבעד לה נתבונן במציאות ישפיע במידה רבה על התשובות שייראו אחר כך סבירות — ולעתים גם הכרחיות.
יחסי הכוחות התהפכו
יש דרך נוספת לקרוא את המניפסטים האלה, והיא עוברת בשינוי ביחסים שבין עמק הסיליקון לוושינגטון.
בינואר 2021, אחרי ההסתערות על הקפיטול, חברות הטכנולוגיה הפגינו סוג יוצא דופן של כוח. טוויטר סגרה את חשבונו של נשיא ארצות הברית המכהן דונלד טראמפ, עם יותר מ־88 מיליון עוקבים; ופייסבוק ואינסטגרם השעו אותו מהפלטפורמות שלהן. חברות פרטיות הראו שהן מחזיקות בשערים שדרכם גם האדם החזק בעולם מדבר לציבור.
אבל ב־2025, עם שובו של טראמפ לבית הלבן, התמונה כבר נראתה אחרת לגמרי. בטקס ההשבעה שלו נכחו צוקרברג, מייסד אמזון ג'ף בזוס, מנכ"ל גוגל סונדר פיצ'אי ובכירי הייטק אחרים. החברות שמפתחות את הטכנולוגיה החזקה ביותר זקוקות עכשיו לממשל בהחלטות על שבבים, תשתיות, יצוא, התחרות מול סין והרגולציה על המודלים הכי מתקדמים. מאזן התלות השתנה וזה ניכר. ואת המתח הזה אפשר לזהות בקריאת המניפסטים, למשל כשאמודיי טורח לציין שהוא "אסיר תודה" על הצעדים של ממשל טראמפ להרחבת תפקיד הממשל ב־AI.
מי שמחזיקים היום בטכנולוגיה החזקה ביותר זקוקים גם למי שמחזיקים בכוח לקבוע את התנאים שבהם היא תוכל לצמוח. ובמניפסטים שהם כותבים הם בעצם מנהלים משא ומתן על שאלות קריטיות, כגון מי יגדיר את הסיכונים, מי יקבע את התנאים ומי יקבל גישה למשאבים — ובעצם על חלוקת הכוח בעידן ה־AI.
הכותבת היא מנכ״לית Humane AI, מומחית אינטראקציית אדם־AI
