אנבידיה משיקה מודל AI פתוח חדש – ומבטיחה ביצועים מהירים ב-30%
נימוטרון 3.5 לייטנינג נועד למערכות מרובות-סוכנים ומאפשר לארגונים להתאים אותו לצורכיהם ולהריץ אותו על התשתיות שלהם. לצד המודל, השיקה החברה גם ספריית קוד פתוח שמנתבת כל משימה למודל המתאים לה. קרי בריסקי, סגנית נשיא אנבידיה: "העולם צריך מודלים פתוחים, עכשיו יותר מתמיד"
אנבידיה מגדילה את המחויבות שלה למודלים פתוחים, ומשיקה היום (ג') את נימוטרון 3.5 לייטנינג (Nemotron 3.5 Lightning), שמיועד לביצוע משימות מורכבות עם סוכני AI.
"העולם צריך מודלים פתוחים, עכשיו יותר מתמיד", אמרה קרי בריסקי, סגנית נשיא אנבידיה למוצרי תוכנת AI גנרטיבית, בתדרוך לעיתונאים אתמול. "הם מאפשרים למפתחים להריץ AI בצורה טובה ויעילה יותר. אנבידיה אוהבת מודלים פתוחים. סוכנים יעילים צריכים מערכת של מודלים, לא רק מודל אחד. צעדים רבים דורשים משימות שונות ברמות בינה משתנות. משימה מורכבת דורשת מודל חזית, משימות פשוטות מודל פשוט ויעיל יותר. אנבידיה בונה מודלי נימוטרון פתוחים זה שנים רבות. הם נמצאים בחזית של המודלים, עם יעילות ודיוק מובילים".
המסר הזה ממשיך קו שאנבידיה והעומד בראשה, ג'נסן הואנג, מקדמים בתקופה האחרונה. ביולי קרא הואנג לקדם מודלי AI פתוחים, וטען כי הם מגבירים את התחרות, מפחיתים את התלות בספק טכנולוגיה יחיד ומאפשרים לחברות ולממשלות להוריד מודלים, להתאים אותם לצורכיהן ולהריץ אותם על התשתיות שלהן. לקריאה הצטרפו עשרות חברות וארגונים, בהם מטא, מיקרוסופט, IBM, AMD ו-Hugging Face.
לדברי אנבידיה, נימוטרון 3.5 לייטנינג משלב בין היכולות של מודל נימוטרון אולטרה המתקדם, למהירות והיעילות של נימוטרון ננו הקטן יותר. המודל, בעל 30 מיליארד פרמטרים, פותח לעבודה עם מערכות מרובות-סוכנים, ותומך בפיתוח סוכני AI יעילים יותר. לפי החברה הוא מאפשר השלמת משימות של סוכני AI 30% מהר יותר לעומת מודלים דומים בקטגוריה שלו.
מדובר במודל פתוח, שמאפשר לארגונים לבצע התאמה, אימוני המשך, שילוב בכלים והליכי עבודה ארגוניים והרצה בסביבת המחשוב המקומית. ארגונים מובילים כבר החלו לשתף אותו בפעילות השוטפת שלהם, ובהם CrowdStrike בתחום הגנת הסייבר; Harvey, בתחום המשפטים; CodeRabbit, בסקירת קוד; Lila Sciences, במדעי החיים ובמדעים הפיזיקליים; ו-Fastino Labs, בתחומי פיתוח התוכנה, הפיננסים והבריאות.
לצד המודל החדש השיקה אנבידיה את NeMo Switchyard, ספריית קוד פתוח לניתוב בין מודלי AI. "ארגונים יכולים לשלב את NeMo Switchyard בעבודה של סוכני AI כדי לאפשר לסוכן לנתב כל משימה למודל המתאים לה ביותר, מבלי שמפתחים יידרשו לכתוב מחדש את היישומים שלהם", נמסר מהחברה. "בשילוב נימוטרון 3.5 לייטנינג, הפתרון מעניק לארגונים ומפתחים שליטה רבה יותר באופן שבו כלי AI מופעלים על גבי מחשבים אישיים, תחנות עבודה, מרכזי נתונים ובענן".
