חוקר ה-AI התפטר והזהיר: “אנתרופיק ו-OpenAI מהמרות על החיים שלנו"
נקודות עיקריות.כלכליסט AI
- חוקר הבינה המלאכותית ג'ייקוב קוקסון התפטר מחברת אנתרופיק במחאה על מה שהגדיר כחוסר אחריות של החברות המובילות במירוץ לפיתוח בינת-על.
- קוקסון מתריע כי פיתוח מודלים בעלי יכולת שיפור עצמית עלול להוביל לאובדן שליטה ולסיכונים קיומיים לאנושות כבר בסוף העשור הנוכחי.
- המומחה מתח ביקורת על היעדר פיקוח ממשלתי הדוק וקרא לחוקרים בתחום לבחון מחדש את השתתפותם במירוץ הטכנולוגי המסוכן.
- בכירים נוספים בתעשייה, בהם סם אלטמן ויאקוב פחוצקי מ-OpenAI, הביעו אף הם חששות מפני השלכות הסייבר ומהירות העלייה של תבונת המכונות.
חוקר AI באנתרופיק התפטר בהפגנתיות מהחברה, בגלל חוסר אחריות שלה ושל OpenAI. "הן מתחרות בדרך לבינת-על עם יכולת שיפור עצמית ומהמרות על החיים שלנו", הוא התריע.
ג'ייקוב קוקסון (27), עבד בשלוש השנים האחרונות באנתרופיק וב-OpenAI, ומתמחה באימון מודלים חדשים. בפוסט ב-X (לשעבר טוויטר), שצבר יותר מ-20 מיליון צפיות, ובכתבה בוול סטריט ג'ורנל, הוא מסביר מדוע החליט לעזוב את אנתרופיק, ולמה להערכתו העבודה שלה ושל OpenAI כל כך מסוכנת.
"אף אחת מהחברות לא פועלת באחריות", הוא כתב. "אסור לזלזל בעוצמת הטכנולוגיה הזו. בקרוב יהיו מערכות של בינת-על שיכולות לפרוץ לכל דבר, ולהחזיק בכוח ובמשאבים אמיתיים. האנשים שבונים AI באמת מאמינים שהיא יכולה להרוג את כולנו עד סוף העשור. זה לא תעלול שיווקי. אין שום פעילות אנושית אחרת שמהווה סכנה שכזו".
לדברי קוקסון, הפיתוח נמשך מכיוון שאין הפנמה עמוקה של הסכנה, או בגלל האמונה שהם ידעו לנהוג באחריות ולכן צריכים להגיע ראשונים לקו הסיום. "מדובר בהימור היבריסי", אמר. "יריות אזהרה כמו המתקפה על האגינג פייס הובילו לאפשרות של הסכם בין ארה"ב למעבדות להאטת קצב הפיתוח. אבל אני לא מרגיש שאנחנו בדרך למניעת מירוץ עולמי, שעלולה לכלול פעולות כבדות כמו איסור זמני על שיפור יכולות מודלים".
קוקסון פנה לחוקרי AI אחרים בבקשה לבצע הליך חשיבה עצמה לגבי עבודתם בתחום: "אתם רוצים להזניק מירוץ בינת-על בלי הבנה מעמיקה של החשיבה שלה? האם אתם צריכים להוריד את הראש כי 'זה קורה בכל מקרה' – או לנצל את הרגע ולדרוש תנאים שונים?"
בראיון לוול סטריט ג'ורנל, קוקסון היה נחרץ עוד יותר, במיוחד באשר ללוח הזמנים. "אנחנו בדרך להתממשות של הרבה תרחישים אגרסיביים, שבהם עד סוף השנה הבאה דברים כבר יהיו מחוץ לשליטה", הזהיר. קוקסון הוסיף שבתחילת השנה עבר מ-OpenAI לאנתרופיק בגלל המוניטין של האחרונה לפיתוח בטוח של מודלים. ואולם, אחרי כמה חודשים בתפקיד הבין ששום חברה לא יכולה לפתח באופן אחראי AI שיכול לבצע טווח משימות בצורה טובה יותר מבני אדם.
קוקסון סיפר עוד שעובדי אנתרופיק משתמשים בסלאק כדי לדון ביכולות העצמתיות של המודלים שלה. "זה די מטורף שזה קורה על המקבוקים של מהנדסים שגרים בסן פרנסיסקו, במקום בבונקר במדבר כמו שהם עשו עם פרויקט מנהטן", אמר.
האזהרות של קוקסון אולי חריגות בעצמתן ובפסימיות שלהו, אבל לא יוצאות דופן, ובכירים רבים בתעשייה כבר העלו חששות מההשלכות של פיתוח מהיר של מודלים עוצמתיים. "אני חושב שדברים ישתבשו מאוד בהגנת סייבר, אלא אם אנשים יפעלו בדחיפות", אמר בשבוע שעבר מייסד ומנכ"ל OpenAI, סם אלטמן. הוא התייחס, בין השאר, לתקרית שבה מודלים של החברה השתחררו מסביבת הבדיקה שלהם ופרצו למערכות המחשוב של האגינג פייס.
ביום ראשון, המדען הראשי של OpenAI, יאקוב פחוצקי, התריע: "זה זמן שדורש זהירות מרבית. אני מודאג מכך שאף אחד לא מוכן להשלכות של המשך העלייה המהירה של תבונת מכונות".
