מעצירת סוכני AI ועד שבבי העתיד: הפיתוחים הישראליים שעשויים לקבוע את עתידה של אנבידיה
בצל פרשת המאהבת-המרגלת שמסבכת את המנכ"ל ג'נסן הואנג, מתחדדת חשיבות הפעילות הישראלית לאנבידיה. ממעבד שנועד לבלום סוכני AI שיצאו משליטה ועד לשבבי תקשורת שנמצאים בלב מערכות המחשוב המתקדמות שלה. בכיר בחברה לכלכליסט: "ג'נסן, כשהוא מדבר על ישראל, לא מתבייש להגיד שהוא תומך בכל הקבוצה של אנבידיה שנמצאת בישראל"
הנימוקים להחלטת S&P להותיר על כנו את דירוג האשראי של ישראל חושפים עד כמה משמעותית הפעילות המקומית של אנבידיה לכלכלה הישראלית. לפי הסוכנות, הכנסות המס עלו ב-13.3% בינואר-ספטמבר, בעיקר בזכות תשלומי המס של אנבידיה.
המרכזיות של אנבידיה בכלכלה הישראלית צפויה להוסיף ולגדול בשנים הקרובות, כשהחברה מרחיבה את הפעילות המקומית שלה. סוגיה זו מהותית במיוחד לאור פרשת המאהבת-המרגלת של המייסד והמנכ"ל ג'נסן הואנג. הואנג הוא אולי התומך הנלהב ביותר של ישראל באנבידיה, ועתה כששאלת עתידו בחברה נמצאת באוויר, כך גם שאלת מחויבות אנבידיה לישראל אם יעמוד בראש החברה אדם אחר.
מענה אפשרי לסוגיה זו אפשר למצוא בצד השני של המטבע, סביב החשיבות של ישראל בעבור אנבידיה ופעילותה. שבבי התקשורת של החברה, שמפותחים מישראל על בסיס קניין רוחני של מלאנוקס, הם רכיב מרכזי בהצלחתה כיום וגם מנוע צמיחה חשוב. אבל הפעילות הישראלית מספקת לאנבידיה נכסים נוספים, כאלו ששואפים ליצור פתרון לכמה מהסוגיות האקוטיות ביותר בתעשיית ה-AI.
בעולם ה-AI, החודשים האחרונים התאפיינו במספר הולך וגדל של אירועים שבהם מודלים או סוכנים אוטונומיים נמלטו מסביבת הבדיקה שלהם וביצעו שמות בפלטפורמות מקוונות ומערכות מחשב. באנבידיה סבורים שמצאו את הפתרון לסוגיה זו, ושהוא עובר בין השאר גם דרך מרכז הפיתוח של החברה בישראל.
"מעבד שמפותח בישראל מאפשר ליצור מנגנון בקרה חיצוני לפעולות של סוכני AI, לנטר את כל הפעולות שלהם בדרך שהם לא מסוגלים לעקוף ולאפשר לבלום אותם במקרה הצורך", אמר לכלכליסט גלעד שיינר, סגן נשיא בכיר למחשוב על ורשתות באנבידיה. הראיונות בכתבה נערכו בכנס GTC של אנבידיה בברלין, שהתקיים באוקטובר, לפני פרוץ השערורייה העדכנית.
בתקופה האחרונה, בכירים בתעשיית ה-AI – ובראשם סם אלטמן מ-OpenAI, דריו אמודיי מאנתרופיק ואלון מאסק – קראו להטיל מגבלות על התחום ולהאט או אפילו לעצור את קצב הפיתוח של מודלים חדשים. זאת, על רקע סכנות ואיומים חדשים מצד מודלים מתקדמים.
אבל באנבידיה, החברה שהרוויחה יותר מכל ממהפכת ה-AI, סבורים שאין שום סיבה לעצור, ושעם כל איום או אתגר ניתן להתמודד תוך כדי ריצה. "יש קולות שאולי צריך להאט את הקצב וכל מיני דברים כאלה, ותכל'ס זה לא נכון", אמר שיינר. "אתן לך דוגמה: כשהמציאו את המכונית, היו לה סיכונים. אף אחד לא אמר: 'רגע, אפשר למות בתאונות, בוא נאט את הקצב של מכוניות ונמשיך לרכוב על גמלים עוד כמה שנים קדימה'. כשאתה מפתח טכנולוגיה, אתה צריך לשים לה תמיד מנגנוני הגנה מסביב. כשפיתחו את הדפדפן, פתאום מכל דף הייתה גישה חיצונית ודברים לא טובים יכלו לקרות במחשב שלך, אז הכניסו לדפדפן את כל מנגנוני ההגנה כדי שדף לא יוכל ללכת ולעשות מה שהוא רוצה איפה שהוא רוצה".
שיינר משקף בדבריו את גישתו של מייסד ומנכ"ל אנבידיה, ג'נסן הואנג, שהביע פעם אחר פעם התנגדות נחרצת לכל האטה בקצב פיתוח מודלי AI. לאנבידיה יש כמובן אינטרס מובהק להתנגד להאטה כלשהי: המודל העסקי של החברה מבוסס על מכירת שבבי מחשוב ל-AI, והאטה יכולה להביא לירידה בביקוש למוצריה וכתוצאה גם בהכנסות.
עם זאת, לזכותה של החברה יאמר שהיא פועלת לספק פתרונות לאתגרים שאיתם מתמודד שוק ה-AI, כולל בעיית המודלים הסוררים. ובהקשר זה, מרכז הפיתוח של החברה בישראל משחק תפקיד מרכזי. "בנינו פלטפורמה בשם OpenShell לאבטחה של סוכני AI. זו מערכת שפועלת בזמן שהסוכן עובד, ועוטפת אותו, אם יש לו הרשאות לעשות את הדברים שהוא אמור לעשות. אם הסוכן מנסה לעשות משהו שלא לפי ההרשאות שלו, פשוט נחתכת לו הגישה החוצה"..
"התוספת הישראלית, הנקודה הישראלית, זה מה שעשינו עם BlueField-4 (מעבד DPU, data processing unit, שפותח בישראל, ומנהל את העברת הנתונים בדאטה-סנטר, ע"כ). BlueField-4 הוא מנגנון חיצוני. הסוכן רץ על המעבד המרכזי (CPU). BlueField הוא מעבד חיצוני שהסוכן בכלל לא מודע לקיומו, הוא יושב על החיבור החיצוני של ה-CPU עם שאר העולם: לרשת החיצונית, ל-GPU, ולאחסון.
"זה אלמנט לגמרי מנותק, יושב בצד, ויכול לעשות ניטור לכל דבר שרץ: כל התקשורת תעבור דרכו, כל דבר שהולך לאחסון, כל דבר שהולך לזיכרון עובר דרכו. זה נותן נדבך אבטחה נוסף מעבר ל-OpenShell. אנחנו קוראים לזה Sentry. יש לך OpenShell ויש לך Sentry, והקומבינציה מספקת את כל האבטחה שאנחנו צריכים לסוכנים היום".
ואם המערכת הזו היתה פועלת לפני כמה חודשים, היא היתה מונעת תקריות כמו בריחה של מודלים מסביבת הבדיקה שלהם ופריצה למערכות מחשוב שונות?
"מה שבנינו בהחלט יכול למנוע דבר כזה. כשהסוכנים מנסים לפתור בעיה, הם מתקשרים עם סוכנים אחרים. אם אין משהו שעושה אכיפה על מה מותר להם לעשות ולאן מותר להם לגשת, הם עלולים לעשות דברים מעבר להרשאה כדי לפתור את הבעיה. ברגע שאתה שומר אותם במגרש המשחקים שלהם ומונע מהם לגשת לזיכרון שאסור להם, הם לא יכולים לעשות פעולות כאלה. כשצריך לגשת לזיכרון צריך מפתח. אם המפתח לא נמצא אצל הסוכן אלא ב-OpenShell, כל הגישה חייבת לעבור דרך OpenShell. אם אסור לו, הוא פשוט לא מקבל מפתח ולא יכול לגשת".
הואנג מדבר על סוכני-על סופר-חכמים שמנהלים סוכנים אחרים. לא יכול להיות תרחיש שבו יש סוכן כל כך מיומן שיכול להערים על המערכת הזאת?
"לא, כי נתת לו מסגרת עבודה. ברגע שיש לו מסגרת ויש אכיפה על המסגרת הזאת – ב-OpenShell וב-BlueField החיצוני – הוא יכול לפעול רק בתוך מה שנתת לו. אתה מחליט מה מסגרת העבודה של הסוכן, והוא לא יכול לפעול בצורה אוטונומית ולעשות מה שהוא רוצה".
זה מעביר את האחריות לבן אדם.
"זה מעביר את האחריות למי שפיתח או למי שנותן את ההרשאות לסוכנים".
והטכנולוגיה פותחה בישראל.
"ההנדסה של OpenShell פותחה בשיתוף פעולה הדוק בין אנשי הנדסה בישראל לבין הצוות בארצות הברית. ההנדסה של BlueField נעשית בישראל, ומוצר הדגל BlueField-4, שהוא חלק מכל מערכות Vera Rubin, הוא פיתוח ישראלי".
האיום הפוטנציאלי מצד מודלי AI נשקף גם מכיוון אחר – מודלי קוד פתוח שניתנים להרצה באופן מקומי, וגורמים עוינים יכולים להשתמש בהם במערכות ללא מנגנוני הגנה. אנבידיה היא אחת השחקניות הגדולות בעולם במודלים פתוחים, ויש לה משפחה רחבה של מודלים לשימושים מגוונים. אבל בחברה סבורים ששם לא נמצאת הסכנה האמיתית.
"המציאות הוכיחה בדיוק את ההפך במקרה של OpenAI", אמרה לכלכליסט קארי בריסקי, סגנית נשיא לתוכנת GenAI באנבידיה. "מודל המחקר שלהם הוא זה שדלף, ורק מודל פתוח הצליח לבלום אותו. מודלים פתוחים חיוניים לצורכי ביקורת ובדיקה (inspect) בדיוק כפי שהם חיוניים להגנה, אף יותר מאשר להתקפה".
את לא חושבת שמודלים פתוחים חשופים יותר לשימוש לרעה?
"כל טכנולוגיה שנוצרה עבור האנושות יכולה לשמש לטוב או לרע. מודלים פתוחים מקדמים את האקוסיסטם כולו. המצב שבו רק שניים או שלושה גורמים בעולם קובעים מה בטוח ומה לא, הוא כשלעצמו אינו מצב בטוח. מודלים פתוחים מאפשרים לעולם לבחון את הקוד, לתרום לו ולהשתמש בו למטרות חיוביות. אני נוטה להיות אופטימית".
שיינר דיבר גם על הקשר של אנבידיה לישראל, בייחוד על רקע מצבה הבינלאומי והדיפלומטי הקשה בימים אלו. "ג'נסן, כשהוא מדבר על ישראל, לא מתבייש להגיד שהוא תומך בכל הקבוצה של אנבידיה שנמצאת בישראל", אמר. “הוא היה מאוד מעורב בסיפור של אבינתן (אבינתן אור, מהנדס אנבידיה שנחטף לעזה ב-7 באוקטובר ושוחרר לאחר שנתיים, ע"כ) והיה בקשר עם המשפחה של אבינתן וכל הסיפור הזה. בנאום שלו היה דגל ישראל כחלק מאיפה שאנחנו בונים את ה-AI factory. אני לא חושב שיש שום נקודה של רגישות, שום דבר של להתבייש או לא להתבייש. יש לו צוות נהדר בישראל, והוא רואה את כל החברה בתור משפחה אחת גדולה".
בימים אלו עומלת אנבידיה על הקמת קמפוס ענק חדש בקריית טבעון. עם השלמת הבנייה, ב-2031, צפוי מספר העובדים של החברה בישראל, שעומד כיום על כ-6,500, להכפיל את עצמו לכל הפחות. האתר החדש יוכל להכיל בין 6,000 ל-7,000 איש פיזית בו-זמנית. בעבודה היברידית גמישה זה מאפשר תיאורטית להעסיק כמות כפולה", אמר שיינר.
זה יתבטא בכניסה לתחומי פעילות חדשים של המו"פ המקומי? עיקר הפעילות בישראל היא תקשורת.
"החלק הארי של תחום התקשורת נמצא בישראל. אבל מכיוון שאנבידיה היא קבוצה אחת, יש בישראל צוותים שעובדים גם על CPUs ו-GPUs, לצד עבודה משותפת עם סטארטאפים מקומיים. יש בארץ גם קבוצות של רכב אוטונומי ומחקר AI יישומי. טכנולוגיית התקשורת היא לא נדבך צדדי, אלא חלק מהותי ובלתי נפרד ממהפכת המחשוב".
הכותב היה אורח אנבידיה בכנס.
