המדען הראשי של OpenAI מזהיר: אנחנו לא מוכנים להשלכות הבינה המלאכותית
נקודות עיקריות.כלכליסט AI
- המדען הראשי של OpenAI קורא לזהירות מרבית ולתיאום בינלאומי נוכח התפתחות בינה מלאכותית העולה על היכולת האנושית.
- החברה מתכננת לפתח כלי ניטור אוטומטיים מבוססי AI כדי להבטיח שחוקרים אנושיים ישמרו על שליטה ופיקוח בתהליך הפיתוח.
- פחוצקי מזהיר כי המעבדות הנוכחיות טרם פתרו את סוגיית הבטיחות והניטור, וממליץ על האטה מרצון בפיתוח עד לקביעת סטנדרטים משפטיים מחייבים.
ג'אקוב פחוצקי (Jakub Pachocki), המדען הראשי של OpenAI, קרא לנקוט "זהירות מרבית" סביב ההתפתחויות המהירות ב-AI. "אנחנו מוצאים עצמנו בנקודה בהיסטוריה שבה האינטליגנציה של המכונות מתחילה לעקוף את זו של בני האדם בדרכים טרנספורמטיביות", טען והזהיר כי יהיה צורך בהתערבויות נוספות כדי להבטיח ש"בני האדם יישארו בשליטה גם בעתיד".
בפוסט שפרסם השבוע תחת הכותרת An Alien Mind, טען פחוצקי כי הוא מוטרד מכך שאיש אינו מוכן "להשלכות של עלייה חדה מתמשכת בבינת המכונות".
הפוסט פורסם ימים ספורים לאחר ש- OpenAI השיקה מודל חדש, GPT-6 Astra, שאותו הגדירה כמוצר החזק ביותר שלה עד כה. עם זאת, לאחרונה דווח כי סוכני AI של OpenAI ושל היריבה אנתרופיק הצליחו לבצע התקפות סייבר על חברות אחרות.
"אנחנו עומדים בפני מעבר לעולם עם מכונות בעלות אינטליגנציה גבוהה ביותר, ועלינו לוודא שהמעבר הזה יתבצע בצורה המטיבה עם האנושות", כתב פחוצקי. עם זאת, הוא ניסה גם להרגיע את החששות ואמר כי OpenAI תמשיך "לבנות מערכות הגנה" ולחפש פתרונות טכנולוגיים.
לפיכך, אחת המטרות העיקריות של החברה בהמשך תהיה לדבריו בניית "חוקר AI אוטומטי" שיעקוב אחרי ההתפתחויות ויוודא שחוקרים אנושיים יישארו חלק מהתהליך. פחוצקי קרא גם להצבת רף בטיחות מינימלי ברמה המשפטית והבינלאומית, שייאכף על ידי צדדים חיצוניים או סוכנויות ממשלתיות.
"להערכתי בשלב זה אף מעבדה לא פתרה ברמה הולמת את סוגיית ההלימה והניטור כדי להמשיך להתקדם במהירות לאורך זמן", סיכם. "אני מקווה שהאטות מרצון יהפכו לדבר שבשגרה עד שיוגדרו רף וסטנדרטים משותפים לבטיחות, ואני מאמין שתיאום בינלאומי בנוגע לפיתוח AI בעתיד חייב להפוך למטרה בעלת עדיפות עליונה עבור ממשלות ברחבי העולם".
