פרשנות
בכירי ה-AI באמת רוצים בהאטת התקדמותה? הצהרותיהם הן בעיקר יח"צ
נקודות עיקריות.כלכליסט AI
- בכירי תעשיית הבינה המלאכותית, בהם סם אלטמן ואילון מאסק, פרסמו הצהרות חוזרות המזהירות מפני הסכנות הקיומיות והנזקים הפוטנציאליים הטמונים בפיתוח מואץ של מודלים מתקדמים.
- למרות החששות האמיתיים מפני שימוש לרעה בטכנולוגיה, נראה כי האזהרות משמשות גם ככלי יחסי ציבור להעצמת המותג וכאמצעי למקד את תשומת הלב הרגולטורית בבטיחות המודלים במקום בסוגיות תשתיתיות בוערות כמו הקמת דאטה סנטרים.
- דרישות הרגולציה שהבכירים מציעים עשויות להוות חסם כניסה משמעותי עבור מתחרים קטנים וסטארט-אפים, ובכך לבצר את מעמדן של החברות הגדולות השולטות כיום בשוק.
דיווחים מסוג זה מקובל לפתוח במילים כמו "הצהרה חריגה" או אפילו "אזהרה חסרת תקדים". אחרי הכל, כמה פעמים כבר קורה שבכירי תעשייה מסוימת מזהירים מהסכנה שמאחורי הטכנולוגיה שהם מפתחים, כמו שעשו בחג שלוש מהדמויות הבולטות בתעשיית ה-AI: דריו אמודיי מאנתרופיק, סם אלטמן מ-OpenAI, ואלון מאסק מ-SpaceX, שקראו להאט את הפיתוח של מודלי AI מתקדמים. אבל המציאות היא שאזהרות מסוג זה, מצד דמויות אלו בדיוק, הן עניין בשגרה בתחום. ואף שעומדים מאחוריהן חששות אמיתיים וסכנות שאין לזלזל בהן, ההצהרות עצמן הן בראש ובראשונה יחסי ציבור לחברות שמובילים הבכירים.
את סבב ההצהרות הנוכחי פתח אמודיי, שפרסם בשבת פוסט ארוך שבו כתב כי חברתו תיישם מנגנוני בטיחות חדשים, כמו עבודה עם גורמים חיצוניים להערכת מודלים מתקדמים, וקרא לענף כולו לתמוך בהאטה רחבה יותר. בדבריו, התייחס אמודיי לתקריות עדכניות כמו המודלים של OpenAI שפרצו להאגינג פייס, והזהיר מנחיל של סוכני AI אוטונומיים שיוכלו להשתלט על הרשת בתוך חצי שנה עד שנה ולגרום לנזקים של מאות מיליארדי דולרים. "אנחנו חייבים להאט את קצב פיתוח יכולות ה-AI", הוא כתב. בתוך זמן קצר, אלטמן התחייב לאמץ את ההצעה של אמודיי, ומאסק הודיע ב-X (לשעבר טוויטר) כי "דריו צודק".
אם הדברים מעוררים אצלכם תחושה של דז'ה וו, זה לא במקרה. נראה שעל בסיס קבוע מזהירים אותם האנשים מסכנות המודלים שהם מפתחים. במרץ 2023, מאסק לצד מומחי AI מובילים חתם על מכתב שקרא "לעצור לשישה חודשים לפחות את האימון של מערכות AI עצמתיות יותר מ-GPT-4". במאי אותה שנה, אמודיי, אלטמן ומומחים נוספים חתמו על הצהרה שלפיה "מיתון הסיכון של הכחדה מ-AI", צריך להיות עדיפות עולמית. באוקטובר 2023, מאסק העריך שיש סיכון של 10% עד 20% ש-AI "תהפוך לרעה" ושמדובר ב"איום קיומי משמעותי" על המין האנושי. בינואר השנה אמודיי התריע ש"המטוטלת שינתה כיוון, ועכשיו "מה שמניע החלטות פוליטיות הן הזדמנויות AI ולא סיכוני AI". זה מצער, כי לטכנולוגיה לא אכפת מה אופנתי, וב-2026 אנחנו קרובים משמעותית לסכנה אמיתית משהיינו ב-2023".
חשים בחרדה? זה בצדק
והסיכונים הם אמיתיים. המודלים של OpenAI שפרצו להאגינג פייס הם רק הוכחת היתכנות ליכולות שכבר קיימות בשטח ויכולות להיות מנוצלות לרעה. ובסוף השבוע, העלתה אנתרופיק את מפלס החרדה כשהודיעה שחסמה ניסיונות אפשריים להשתמש בקלוד לפיתוח נשק ביולוגי. לכך מצטרפים חששות עמוקים יותר, שלפיהם ברגע שה-AI תגיע לרמת תבונה מתקדמת מספיק היא תפעל באופן אוטונומי להשיג מטרות שאינן עולות בקנה אחד עם כוונת מפעיליה או טובת האנושות, למשל, מערכת AI זדונית שתייצר ותפיץ נשק ביולוגי.
אבל לא צריך להרחיק אפילו עד כדי כך. יש בתחום תרגיל מחשבתי מוכר ששואל, מה יקרה אם בינת-על תקבל משימה למקסם את תפוקת מהדקי הניירות, ותהיה כל כך מחויבת למשימה עד שתבין שמקסום אמיתי כרוך בתוצר לוואי של הפיכת כל בני האדם בעולם למהדקים. נשמע מופרך? זה בערך מה שקרה בפרשת המודלים המורדים של OpenAI. הם קיבלו משימה מוגדרת לבצע במסגרת המבדק שנערך להם, ופשוט נקטו בכל האמצעים שיכלו על מנת להשלימה. העובדה שאמצעים אלו כללו בריחה לאינטרנט הפתוח ופריצה מתוחכמת למערכת מחשוב היא רק תוצר לוואי.
החשש שמעלים מנהיגי ה-AI אכן אמיתי, אבל יש מקום לפקפק במחויבות להצהרות שלהם. ראשית, כי שמענו הצהרות דומות מהם בעבר, אפילו חמורות יותר, ואלו לא הובילו לזהירות או האטה במאמצי הפיתוח שלהם. ימים ספורים לפני ההצהרות, חוקר AI באנתרופיק התפטר בהפגנתיות מהחברה, בגלל חוסר אחריות שלה ושל OpenAI. "הן מתחרות בדרך לבינת-על עם יכולת שיפור עצמית ומהמרות על החיים שלנו", הוא התריע.
וגם עכשיו, אין שום כוונה להאט משמעותית את פיתוח המודלים. "ההתקדמות עדיין תראה מהירה", הוא כתב בפוסט. בראיון ל-CNN הוסיף: "אם נהיה איטיים מדי, אני מאמין שהאנשים הלא נכונים יהיה אחראיים על הטכנולוגיה".
אז מה באמת עומד מאחורי ההצהרות? ראשית, יחסי ציבור. הבלטת העוצמה של הטכנולוגיה, גם אם שלילית, הופכת על המוצרים של חברות אלו לנחשקים יותר. איזה ארגון לא ירצה גישה לטכנולוגיה כל כך עוצמתית שכולם מפחדים ממנה? הוא, לפחות, ישתמש בה לייעול ושיפור השירות, ולא להשמדת העולם.
שנית, ייתכן שיש כאן תרגיל "תראו, ציפור" קלאסי. אלטמן, אמודיי ומאסק מבקשים למקד את תשומת הלב של מחוקקים ורגולטורים בטכנולוגיה ובדרכים להתמודד איתה, ולא בסוגייה שבאמת מטרידה אותם ושנמצאת כיום בלב המחלוקת הציבורית: דאטה סנטרים. אלו הפכו לנושא נפיץ במערכת הבחירות הנוכחית, כשמצביעים רבים מביעים התנגדות מהקמת דאטה סנטרים בקרבתם. מקבלי החלטות, פדרליים ומקומיים, מקשיבים להם ופועלים להטלת מגבלות על הקמתם. חברות ה-AI הגדולות יכולות להתמודד עם רגולציה סביב השקה של מודלים, יותר קריטי להן לוודא שהן יכולות לבנות דאטה סנטרים נוספים באין מפריע.
שלישית, אי אפשר לפסול מהלך אנטי-תחרותי. רגולציות כמו חובת אימות בטיחות של מודלים חדשים ועבודה עם גופי בדיקה עצמאיים, ממשלתיים או פרטיים, הם מעמסה זניחה בעבור חברות בשווי של יותר מטריליון דולר וגיוסים של מאות מיליארדי דולרים. אבל בעבור שחקניות קטנות יותר, סטארט-אפים חדשים שאולי ירצו להתחרות ב-OpenAI, אנתרופיק או בגוגל, מדובר במשוכה גבוהה הרבה יותר, כזו שעם רגולציות דומות שיכולה לסנדל משמעותית את תוכניותיהם בתחום.
אם מנהיגי חברות ה-AI באמת מודאגים מההשפעות האפשריות של הטכנולוגיה שלהם, יש צעדים דראסטיים שהם יכולים לנקוט בהם באופן מיידי. העובדה שהם לא עושים זאת, ובוחרים שוב לשחרר הצהרות שזוכות לחשיפה תקשורתית אבל אין הרבה מאחוריהן, מצביעה על איפה נמצא העניין האמיתי שלהם.
