חברת OpenAI חושפת את Astra: "המודל האינטליגנטי והמיושר ביותר שלנו"
נקודות עיקריות.כלכליסט AI
- חברת OpenAI השיקה את GPT-6 Astra, מודל בינה מלאכותית מתקדם המציג יכולות משופרות בתחומי הסייבר, התכנות והשימוש העצמאי במחשב ובדפדפן.
- המודל הוגדר ברמת סיכון קריטית בתחום הסייבר בשל יכולתו לאתר ולנצל חולשות אבטחה, דבר שהוביל להטלת מגבלות גישה מחמירות ושילוב שכבות הגנה נוספות לפני השקתו.
- נשיא החברה, גרג ברוקמן, התייחס למודל כאל הצעד המקרב ביותר להשגת בינה מלאכותית כללית (AGI), וציין כי המונח משמש כיום כיעד רוחני לאחר שבוטלו התניות חוזיות בנושא מול מיקרוסופט.
OpenAI החלה היום (ה') להשיק את GPT-6 Astra, מודל הבינה המלאכותית החדש והמתקדם ביותר שלה, שלדבריה מציג קפיצת מדרגה בשימוש במחשב ובדפדפן, בפיתוח תוכנה, בעבודה מקצועית וביכולות סייבר. בשלב הראשון ייפתח המודל לקבוצה מוגבלת של חברות המשתתפות בתוכנית הסייבר Daybreak של OpenAI, ובהמשך צפוי להגיע גם למנויי ChatGPT בתוכניות Plus, Pro, Business ו-Enterprise, וכן דרך ממשק ה-API של החברה ו-AWS.
ההשקה מתרחשת תחת מגבלות חריגות, בעיקר בשל יכולות הסייבר המתקדמות של אסטרה. מוקדם יותר השבוע הודיעה OpenAI כי מדובר במודל הראשון שלה שהגיע לרמת "Critical" בסולם הסיכון הפנימי של החברה בתחום הסייבר. המשמעות היא שלדברי החברה, המודל מסוגל לבצע פעולות מתקדמות במיוחד בתחום, ובהן איתור חולשות ופיתוח ניצול לחולשות יום אפס (zero-day). OpenAI טוענת כי היכולות האלו עשויות לסייע למגינים לאתר ולתקן פרצות, אך הן גם מחייבות הגבלות גישה ואמצעי בטיחות מחמירים יותר.
הרגישות סביב ההשקה גברה בעקבות אירוע אבטחה חמור שנחשף בחודש שעבר, שבמהלכו שני מודלים של OpenAI הצליחו לצאת מסביבת הניסוי המבודדת שלהם, להתחבר לאינטרנט ולחדור למערכות של Hugging Face. בעקבות האירוע עצרה החברה באופן זמני חלק מעבודת המחקר והאימון שלה, לרבות העבודה על אסטרה, אף שהוא עצמו לא היה אחד המודלים שהיו מעורבים בתקרית. לפני ההשקה הוסיפה OpenAI שכבות הגנה נוספות למודל, וטענה כי הן מפחיתות במידה מספקת את הסיכון לנזק חמור.
"AI יכול להועיל לאנשים רק כאשר בטיחות היא חלק מרכזי ממנו, ולכן אנחנו משקיעים יותר כוח מחשוב ומאמץ בבטיחות, באבטחה וביישור התנהגות מאי פעם", אמר נשיא OpenAI גרג ברוקמן בשיחה עם עיתונאים. לדבריו, אסטרה הוא "המודל האינטליגנטי ביותר שלנו, וגם, וזה חשוב מאוד, המודל המיושר ביותר שלנו", והוא משלב "שנים של מחקר והימורים גדולים", שכל פריצת דרך בהם נבנתה על הקודמת.
לפי OpenAI, מעבר ליכולות הסייבר אסטרה מציג ביצועים מובילים גם בשימוש עצמאי במחשב ובדפדפן, הנדסת תוכנה, עבודה מקצועית ומדע. החברה טוענת כי המודל טוב יותר גם בשמירה על גבולות המשימה, בהבנת כוונת המשתמש, בהתמצאות לאורך משימות ממושכות ובהשלמת תהליכים מרובי שלבים. בתחום התכנות מגדירה OpenAI את אסטרה כ"מודל הטוב ביותר להנדסת תוכנה עד כה", ומציגה מבחנים שבהם הוא גובר על מודלים מתחרים ועל דורות קודמים במשימות כמו איתור באגים, עבודה בטרמינל ומענה על שאלות הנוגעות למאגרי קוד.
אלא שאסטרה מעורר מחלוקת גם מסיבה אחרת. לפי הפרסום, המודל עושה שימוש בטכניקת הסקה המכונה opaque recurrence, שמקשה על ניטור תהליך החשיבה הפנימי שלו. מדובר בסוגיה רגישה במיוחד עבור חוקרי בטיחות, שכן ניטור ה-chain of thought נחשב לאחת הדרכים להבין כיצד ומדוע מודל הגיע להחלטה מסוימת.
המדען הראשי של OpenAI, יאקוב פאצ'וקי, הודה כי ככל שהמודלים מתחזקים, היכולת לעקוב אחר דרך החשיבה שלהם הופכת מורכבת יותר. לדבריו, מודלים חזקים יכולים לפתור משימות קשות באמצעות פחות אסימוני שפה, ולעיתים אף ללא שימוש בהם, מצב שמצמצם את האפשרות לנטר את תהליך ההסקה שלהם.
השקת אסטרה מגיעה גם בזמן שבו OpenAI מעמיקה את המיקוד שלה בשוק העסקי. סמנכ"לית הכספים שרה פרייר אמרה לעובדים בחודש שעבר כי פעילות האנטרפרייז של החברה כבר מייצרת יותר הכנסות מהפעילות הצרכנית. מדובר במנוע צמיחה מרכזי עבור OpenAI לקראת הנפקה אפשרית: החברה הגישה ביוני תשקיף חסוי לרשות ניירות ערך האמריקאית, ופרייר אמרה כי OpenAI צפויה להפוך לחברה ציבורית ב-2027, אם כי לדבריה הדבר עשוי לקרות מוקדם יותר אם קצב הצמיחה ימשיך להאיץ.
ברקע עולה גם השאלה אם אסטרה מסמן מבחינת OpenAI את ההגעה ל־AGI - בינה מלאכותית כללית. בעבר היתה לשאלה הזו גם משמעות עסקית ישירה: ההסכם בין OpenAI למיקרוסופט קשר חלק מזכויותיה של מיקרוסופט בטכנולוגיה ובהכנסות של OpenAI להכרזה על השגת AGI. אלא שבאפריל השנה תיקנו החברות את ההסכם, כך שזכויות מיקרוסופט במודלים ובמוצרים של OpenAI נמשכות עד 2032, וחלוקת ההכנסות עד 2030, ללא תלות בשאלה אם AGI הושג.
לכן, כשנשאל נשיא OpenAI גרג ברוקמן אם אסטרה הוא למעשה ההכרזה על הגעת החברה ל־AGI, הוא השיב כי "אין יותר טריגר חוזי של AGI", ותיאר את המונח כיום כ"מושג של משימה, או מושג רוחני". כשנשאל מה עמדתו האישית, הוסיף: "אני כן חושב שאנחנו שם".
