ג׳נסן הואנג בברלין: "אנחנו בעיצומה של בניית התשתיות הגדולה בהיסטוריה"
נקודות עיקריות.כלכליסט AI
- מנכ"ל אנבידיה הכריז על ה-DSX Pod, מרכז נתונים במכולה המקצר את זמן ההקמה מחודשים לשבועיים בלבד.
- החברה הציגה את ארכיטקטורת OpenShell שנועדה לנטר סוכני AI, להגביל את גישתם לנתונים ולמנוע התנהגות בלתי בטיחותית.
- במסגרת הכנס נחשפו פיתוחים ברובוטיקה, בהם מערכת AI לטיפול מותאם אישית בהקרנות ורובוט דמוי אדם בקוד פתוח.
דאטה-סנטר (מרכז נתונים) שמגיע במכולה מוכן לחיבור ולהפעלה, ארכיטקטורה שמיועדת לבלום פעולות לא מורשות של סוכני AI ולמנוע תקריות בריחת מודלים, ורובוט לטיפולי הקרנות שמשתמש ב-AI להתאמה אישית של טיפולים לחולי סרטן – אלו חלק מההכרזות המרכזיות של אנבידיה באירוע הפתיחה של כנס GTC ברלין, שנערך היום (ד') בהובלת המייסד והמנכ"ל, ג'נסן הואנג.
"אנחנו עכשיו בתחילתה של מהפכה תעשייתית חדשה ש-AI מניע", אמר הואנג בפתח האירוע. "מהפכה תעשייתית חדשה מתרחשת כשהטכנולוגיה החדשה משפיעה על מה ואיך אנחנו בונים משהו. AI תשפיע על כל מה שנבנה, ותאפשר לנו לבנות דברים חדשים. כולם ישתמשו בה, כל החברה תושפע ממנה, כל תעשייה תעבור שינוי וחדשות ייווצרו. זו מהפכה כמו החשמל, ואנחנו רק בהתחלה".
בכל העולם, מרכזי נתונים חדשים (או "מפעלי AI", בז'רגון של אנבידיה) נבנים בהיקפי ענק על מנת להשביע את תיאבון ה-AI לכוח מחשוב. בברלין, הציגה אנבידיה פתרון חומרה שלדבריה יכול להאיץ משמעותית את קצב הבנייה שלהם. ה-DSX Pod הוא עיצוב לדוגמה (reference design) למפעל AI מורכב במלואו בתוך מכולה מודולרית, מוכן לחיבור מיידי לתשתיות חשמל, תקשורת ומים. הפוד יבנה וישווק על ידי שותפות אנבידיה דוגמת דל, לנובו ו-HPE. הוא כולל שבעה ארונות שרתים Vera Rubin NVL72, עם 10 מיליון רכיבים ובמשקל 29 טון, בערך 20 אוטובוסים עירוניים. הפוד מותאם לשינוע בכבישים, וכולל 20 ק"מ של כבלי תקשורת. כתוצאה מכך, הדבר היחיד שצריך לעשות כשהפוד מגיע לאתר הוא למקם ולחבר לפודים האחרים. התקנה מסורתית של ארונות שרתים יכולה לקחת עד שישה חודשים, בגלל החיווט, הצנרת, האימות והחיבורים. לפי אנבידיה, עם DSX Pod אפשר לצמצם את הזמן ל-14 ימים בלבד.
הפוד גם אמור להתמודד עם שתי בעיות מרכזיות של מרכזי נתונים מודרניים: צריכה מוגברת של מים וחשמל. "הוא תוכנן לאפס שימוש במים", אמר איאן באק, סגן נשיא ל-Hyperscale ומחשוב עתיר ביצועים באנבידיה. "ביצענו אופטימיזציה ל-Vera Rubin, לפתרון הקירור ולמכולת ה-DSX Pod כך שלא תבוזבז אפילו טיפת מים אחת. המערכת במעגל סגור. בדיוק כמו הרדיאטור ברכב שלכם, לעולם לא נבזבז או נשתמש באידוי כדי לקרר מרכזי נתונים. מכיוון שאנו תומכים בקירור במים חמים, הכל יכול להיעשות באמצעות מצננים יבשים, מאווררים ורדיאטורים, ללא בזבוז או צריכה של מים. שיפור זה לבדו צפוי להפחית באופן דרמטי את השימוש במים במרכזי נתונים. ההערכה היא שהם צורכים יותר ממיליון ליטר מים בשעה רק עבור קירור באידוי".
במהלך הדברים מפגינים של גרינפיס קטעו את נאום הפתיחה של הואנג וצעקו, ״ג׳נסן, נקה את החברה שלך!״ צפו:
לגבי צריכת אנרגיה, אנבידיה ייעלה את מנגנון הקצאת החשמל במרכזי נתונים, כדי למנוע בזבוז ואטים. "נוכל להפחית את סך האנרגיה הנדרשת וליצור את אותה תפוקת AI", טען באק. "בנוסף, DSX Flex הוא תקן אוטומטי שמגדיר איך מרכזי נתונים יכולים לעבוד מול ספקי החשמל. במשחק הכדורגל ביורו 2020 בין אנגליה לגרמניה, במחצית, כולם בבריטניה הפעילו את הקומקום כדי להכין תה. זה יצר זינוק של 1 ג'יגה-וואט ברשת החשמל הבריטית, בזמן שבו הרשת היתה זקוקה לג'יגה-וואט נוסף. עם DSX Flex, במהלך אותם זינוקים מרכזי נתונים יכולים לצמצם או להשהות פעולות מסוימות כדי להיענות לצרכים הדינמיים של הרשת. כל זה יהיה אוטומטי, כך שספקים חשמל ומרכזי נתונים יוכלו לתקשר אוטומטית ולהגיב לצרכים".
הואנג ציין שמרכז נתונים יוצר ערך רק כשהוא מתחיל לספק טוקנים. "עם DSX Pod, אנחנו מביאים את המהירות והדיוק של מוצרים שמיוצרים במפעל לבניית תשתיות AI", אמר. "בכך אנו מפחיתים את זמן הפריסה מחודשים לשבועות, כך שלקוחות יכולים להגדיל במהירות את הקיבולת שלהם ולהפעיל מוצרים מייצרי הכנסות מהר יותר. זו מהפכה משמעותית, שתקצר את הזמן שכוח מחשוב ניצב ללא עבודה".
אנבידיה גם מרחיבה את שרשרת האספקה לייצור שבבי AI ורכיבים טכנולוגיים נוספים. בין השאר, החברה תרחיב את קיבולת המצעים (substrates) ביותר מפי 2.5 בשלוש השנים הקרובות שלה באמצעות שותפויות חדשות עם Ibiden, Samsung ו-Unimicron, תרחיב את קיבולת האריזה המתקדמת (advanced packaging) של השבבים פי 4 עד סוף 2028 עם Amkor ו-SPIL, ותגדיל את קיבולת האופטיקה פי 15 בשנה הבאה ופי 30 עד 2028.
"אנחנו בעיצומה של בניית התשתיות הגדולה בהיסטוריה האנושית", אמר הואנג. "הביקוש אדיר, הקיבולת היא המגבלה. שותפי שרשרת האספקה שלנו הם היצרנים הטובים בעולם. אני אסיר תודה שהם מרחיבים את הקיבולת בכל העולם, במטרה להגדיל את היקף הייצור ולסייע לנו לספק את מערכות מחשוב-העל שמניעות את המהפכה התעשייתית החדשה הזו".
סוגיה משמעותית בחודשים האחרונים היא סוכני AI שהשתחררו מסביבת הבדיקה הסגורה שלהם ותקפו מטרות באינטרנט הפתוח או ביצעו פעולות בעייתיות (כמו השארת טיפ פיקטיבי על רצח במשטרה). לפי אנבידיה, הפתרון לא נמצא במקום שכולם מחפשים אותו.
"חלק גדול מהשיח מתמקד ביישור (aligment) מודלים וגבולות גזרה (guardrails) למודלים מתוך מחשבה שזה מספיק לבטיחות AI", אמר ג'סטין בויטאנו, סגן נשיא אנבידיה ל-AI בתעשייה. "אבל מודל לא יכול להבין את שיקולי המדיניות של כל עסק וכל ענף מפוקח. זה אומר שהאבטחה והממשל של מערכת מבוססת סוכנים אינם יכולים להסתמך אך ורק על המודל. אם סוכן AI מקבל הנחיה מעורפלת, והוא עלול לפרש לא נכון את מה שהתבקש, ולבצע פעולה שלא הייתה מכוונת. לדוגמה, הוא עלול לגשת לנתונים פרטיים מחוץ למערכת או דרך API פנימי, ולאחר מכן לשלוח בטעות את הנתונים הללו, או אפילו אישורים רגישים, למיקום חיצוני בלתי מאושר. ארגונים זקוקים לדרך אמינה לנטר כל פעולת סוכן, לשלוט במה שהסוכן יכול לגשת אליו, ולהיות בטוחים שביכולתם לעצור התנהגות לא בטוחה לפני שהיא גורמת נזק".
מוקדם יותר השנה הציגה אנבידיה את OpenShell, סביבת פעולה מבוקרת-מדיניות בקוד פתוח, שיושבת בין סוכן לבין המערכות הארגוניות שהוא יכול להשפיע עליהן. בברלין, הציגה אנבידיה ארכיטקטורה להרצת סוכנים ארגוניים בבטחה על גבי תשתית אנבידיה, שמבוססת על OpenShell. "המערכת מריצה את הסוכן תוך ניטור פעילות ואכיפת מדיניות לגבי אילו פעולות מותרות. היא מאפשרת ניטור תעבורה ומעניקה את היכולת להחיל מיידית עדכוני מדיניות כדי לנתק את הסוכן אם מזוהה התנהגות בלתי בטוחה. הפתרון מאפשר גישה בהרשאה מינימלית לסוכן, שמקבל גישה אך ורק למה שהוא צריך".
הואנג אמר: "יכולות AI ובטיחות חייבות להתקדם ביחד. בשעה שארגונים נערכים לפריסת מיליארדי סוכני AI, בטיחות ובקרה חייבות להבנות לתוך ארכיטקטורת המחשוב. אנבידיה יצרה את OpenShell כדי לתת לסוכנים את החופש לבצע עבודה מועילה בתוך גבולות מוגדרים בבירור – מוכלת, מנוטרת ותחת שליטה. אנחנו רוצים לפרוס סוכנים בכל העולם".
חלק אחר באירוע עסק במערכות AI פיזית. בשיתוף עם סימנס הציגה אנבידיה את Siemens Healthineers, מערכת חומרה רפואית לטיפול מותאם אישית בקרינה בעזרת ה-AI. המודלים השונים של אנבידיה משמשים את המערכת לאיסוף המידע הרב שאוספים חיישני המערכת, עיבודה וקבלת החלטה על פעולה מתאימה. "רובוט יודע לסרוק את המטופל, להבין בדיוק איפה נמצא הגידול ולמקד את הקרינה לשם. למעשה, מדובר בניתוח רובוטי", טען הואנג.
אחד התחומים המאתגרים ביותר ב-AI פיסי הוא רובוטים דמויי אדם. כיום, רק חברות גדולות יכולות לבצע את ההשקעות בבניית רכיבי החומרה ופיתוח המודלים לרובוטים אלו, מה שמקשה מאוד. על הנגשת הטכנולוגיה. התרומה של אנבידיה לכך היא פלטפורמת ייחוס וותפות עם Agileהגרמנית בפיתוח וייצור רובוט ייחוס בשם Agile 1S. "הרובוט זה מגיע עם עם כל מודליות החישה וההפעלה השונות, עם כפות ידיים גמישות בעלות חמש אצבעות מהדור האחרון, שכן מניפולציה מיומנת היא אחת הבעיות החשובות ביותר שעלינו לפתור עבור רובוטיקה לשימוש כללי", אמר מנהל קבוצת הרובוטיקה של אנבידיה, דיפו טאלה. "הרובוט הזה מגיע בקוד פתוח, כל מערך התוכנה יהיה פתוח לחלוטין עם פלטפורמת הייחוס המלאה של אנבידיה, והוא יהיה זמין באופן ציבורי לחוקרים, אוניברסיטאות, מעבדות מחקר וחברות קטנות. כולם יוכלו לקבל גישה לכך, מה שינגיש בפועל ויאפשר לחוקרים לבנות מוחות מתקדמים יותר לשימוש כללי".
הרובוט יהיה זמין ברבעון הראשון של 2027. "זו נקודת מוצא מצוינת להאצת הפיתוח של רובוטים", אמר הואנג.
הכותב הוא אורח אנבידיה בכנס.
