מנכ"ל אנתרופיק: "ההתנגדות ל-AI היא ביסודה משבר אמון"
נקודות עיקריות.כלכליסט AI
- מנכ"ל אנתרופיק דאריו אמודיי דוחה את הטענה כי אזהרותיו מפני סכנות הבינה המלאכותית ליבו התנגדות ציבורית לטכנולוגיה, וטוען כי עמדותיו מאוזנות וכוללות גם את יתרונותיה העצומים.
- אמודיי מייחס את הספקנות הציבורית כלפי התחום למשבר אמון רחב ועמוק מול תעשיית הטכנולוגיה והממשלות, ולא למסרי שיווק או אזהרות של מנהלים בודדים.
- לשיטתו, הדרך היחידה לשנות את דעת הקהל היא מימוש הבטחות הטכנולוגיה להיטיב עם העולם בפועל, כגון פריצות דרך רפואיות ממשיות, ולא רק הצהרות תיאורטיות.
- בנוגע לרגולציה, אמודיי תומך בכללי משחק שיגבילו את כוחן של החברות הגדולות ויגנו מפני סיכוני סייבר וביולוגיה, תוך שמירה על מקום למתחרים קטנים ומודלים פתוחים.
מנכ"ל אנתרופיק, דאריו אמודיי (Dario Amodei), דחה לאחרונה את הטענה שהוא מציג תמונה פסימית מדי של הבינה המלאכותית ושל האופן שבו היא עשויה לעצב את העתיד. כך מדווח בלוג הטכנולוגיה טקראנצ'.
דבריו של אמודיי נאמרו בתגובה למשקיע גאווין בייקר (Gavin Baker), שטען – הן בפודקאסט All-In והן ברשת X – כי האזהרות של אמודיי מפני הסכנות של AI סייעו ללבות בארה"ב תגובת נגד לטכנולוגיה, במיוחד בכל הנוגע למרכזי נתונים.
בייקר טען כי אמודיי "הפסיד בוויכוח" בכל הקשור לרגולציה על AI, אף שאנתרופיק תומכת ברגולציות מסוימות, ובהן הצעת חוק בקליפורניה המטילה דרישות שקיפות על חברות AI גדולות. בהתחשב בכך ש"הוא עומד להיות המנכ"ל של אחת החברות החשובות בעולם", כתב בייקר, "אני חושב בכבוד שהוא צריך לעשות מאמץ להיות תומך חיובי יותר בתעשייה שלו".
בייקר רחוק מלהיות היחיד שטוען כי הספקנות כלפי AI, ואפילו צעדי הידוק מצד ממשלות, הם תגובה טבעית לאזהרות הקשות שמשמיעים חלק ממנהלי חברות ה-AI. אלא שבפוסט משלו חלק אמודיי על הטענה כי "המסרים שלי היו שליליים באופן לא פרופורציונלי". לדבריו, הכתיבה שלו הייתה "מאוזנת במידה שווה בין סיכונים ליתרונות", והוא כתב את המאמר שלו, "Machines of Loving Grace", משום ש"הרגשתי שתעשיית ה-AI לא מציגה תמונה מעוררת השראה מספיק של האופן שבו הטכנולוגיה יכולה לשנות את העולם באופן דרמטי לטובה".
עם זאת, אמודיי הודה כי "לציבור יש דעה שלילית על AI", והסכים כי "זו בעיה גדולה". הוא חלק על הטענה שהשליליות הזו נגרמה "בעיקר" בגללו או בגלל "כל מנהיג AI אחר שמזהיר מפני הסיכונים של AI". "אני חושב שזה ביסודו משבר אמון", אמר אמודיי. "אני חושב שאנשים רגילים לא סומכים על חברות, ממשלות או תעשיית הטכנולוגיה, ותמיד חושדים שאנחנו רוקחים איזו דרך חדשה לדפוק אותם".
ואכן, "אמון" הוא מונח שמופיע לעיתים קרובות בכותרות העוסקות במנכ"ל OpenAI סם אלטמן, ונראה שזו סוגיה שנוגעת גם למנכ"לי AI אחרים כמו אמודיי. עם זאת, לפי אמודיי, מדובר במשבר שנבנה במשך עשרות שנים, כאשר ההתנגדות ל-AI היא "רק הגרסה האחרונה שלו". "אני חושב שהביקורת המדויקת ביותר, בפער גדול, על חברות AI, כולל אנתרופיק, היא שעדיין לא קיימנו את ההבטחות הגדולות שלנו להיטיב עם העולם", אמר אמודיי. "זה לגמרי עלינו, ואני חושב שזו הביקורת שצריך להשמיע, במקום כל הדברים האלה על מסרים ושיווק". במילים אחרות, הוא אמר שהבטחה ש-AI ירפא סרטן היא "יותר קלישאה מאשר דבר מעורר השראה"; מה שבאמת ישנה את דעתם של אנשים על AI יהיה "באמת לרפא סרטן".
באשר לרגולציה, אמודיי טען שבייקר מציג "בחירה כוזבת" בין הפצה רחבה של AI ללא רגולציה לבין ריכוז הטכנולוגיה בידי כמה חברות באמצעות רגולציה. "אני יודע שבעמק הסיליקון יש תפיסה שלפיה רגולציה מובילה לכך שהחברות הגדולות ישפיעו על הרגולטורים, ובסופו של דבר לריכוז כוח, אבל תמיד חשבתי שזו תמונה מפושטת מדי של העולם", אמר אמודיי. "אנשים רבים מחוץ לבועה הזו חושבים על רגולציה כעל משהו שמגביל את כוחן של חברות ומיטיב עם אנשים רגילים". אמודיי הוסיף כי הוא "לא בהכרח מסכים גם עם נקודת המבט הזו", אך לדבריו "זו הסיבה שאנתרופיק תמיד ניסחה את הצעות המדיניות שלה בזהירות רבה".
"אנחנו משתדלים מאוד להציע הצעות שפוגעות בחברות ה-AI המתקדמות ביותר (מאטות אותן), ובמקביל *מעניקות יתרון* למתחרות קטנות יותר", אמר. מדוע בכלל להגיש הצעות כאלה? אמודיי אמר שלדעתו, "AI היא טכנולוגיה שבאופן *מבני* נוטה לרכז כוח", וכי "מודלי AI פתוחים אכן עוזרים במידה מסוימת בעניין הזה, אבל הם רחוקים מלהיות פתרון מספיק, משום שהם פשוט מעבירים במידה מסוימת את הריכוז למי שיש להם את כוח החישוב והשבבים הרבים ביותר".
"לעומת זאת, אני חושב ש'כללי המשחק' הנכונים יכולים במקביל (א) להתמודד עם סיכוני הסייבר/הביולוגיה/ההתאמה של AI, (ב) להגביל באופן מוסדי את כוחן של חברות ה-AI המתקדמות ביותר, ו-(ג) להשאיר מקום למודלים פתוחים, ובמקביל להתמודד עם הסיכונים הספציפיים שהם מביאים איתם", אמר.
