מיקרוסופט מציגה מאיץ AI חדש ומתחרה באנבידיה: פי 7 תפוקה מהדור הקודם
נקודות עיקריות.כלכליסט AI
- חברת מיקרוסופט חשפה את Maia 300, דור חדש של מאיץ בינה מלאכותית שנועד להתחרות במעבדי אנבידיה ולשפר את ביצועי הדאטה סנטרים.
- השבב החדש תוכנן במיוחד להפעלת סוכני AI אוטונומיים ולביצוע משימות מורכבות הדורשות ניתוח נתונים מהיר והקשר נרחב.
- המערכת מציגה יעילות אנרגטית משופרת של 40% בהפקת טוקנים ותפוקה הגבוהה פי שבעה לעומת הדור הקודם של השבב.
מיקרוסופט מחזקת את הפעילות שלה בתחום מעבדי ה-AI, וחושפת הערב (ב') את Maia 300, הדור החדש של מאיץ ה-AI שמפתחת החברה כתחרות ישירה במעבדים של אנבידיה.
בתחילת השנה ביצעה מיקרוסופט מהלך משמעותי בתחום הסיליקון ל-AI, עם השקת Maia 200, שבב AI שפיתחה באופן עצמאי ומיועד להרצת מודלי AI בדאטה סנטרים של Azure. היום חושפת החברה את הדור הבא של השבב, שפותח לעידן שבו סוכני AI אוטונומיים מבצעים משימות מורכבות שדורשות כוח מחשוב משמעותי ושמיועד לשלב ההפעלה של המודלים.
"מאחורי כל תשובה, ניתוח מסמך או משימה שמבצע סוכן, פועלת תשתית מחשוב שנדרשת לעבד כמויות גדלות של מידע, להגיב במהירות ולנצל ביעילות את החשמל הזמין במרכזי הנתונים", נמסר ממיקרוסופט. "המערכת החדשה תוכננה להתמודד עם משימות שמאפיינות את הדור הבא של AI – ניתוח והסקת מסקנות על בסיס מידע והקשר נרחבים, שיחות הדורשות תגובה מהירה ומשימות ממושכות ורבות שלבים שמבצעים סוכני AI".
לדברי החברה, Maia 300 מסוגל להפיק 40% יותר טוקנים (יחידת מדידה להספק של מודלי AI) לכל מגה-וואט בהשוואה למערכות מבוססות מעבדים גרפיים (GPUs). מדובר בהשוואה בעייתית, שכן מעבדי AI מבוססי GPU מיועדים לשלב האימון של המודלים, ולא לשלב ההפעלה שלהם. "המשמעות היא יותר עיבוד של בינה מלאכותית במסגרת אותו הספק חשמלי. בתצורה מלאה של 96 מאיצים בארון שרתים אחד, המערכת תספק עד פי שבעה תפוקת טוקנים לעומת Maia 200", נמסר.
באשר ל-Maia 200, שבב זה כבר משמש להפעלת מודלי קופיילוט של מיקרוסופט ואת צוותי מיקרוסופט AI שמפתחים את דור המודלים הבא של החברה. לדברי מיקרוסופט, השבב שולב בדאטה-סנטרים בארה"ב, אירופה ואוסטרליה. "הניסיון מהפעלת השירותים האלה השפיע ישירות על תכנון Maia 300", אמרה החברה. "צוותי החומרה והתוכנה עובדים יחד כבר בשלבי הפיתוח המוקדמים, כדי להתאים את המערכת למודלים ולמשימות שהיא תידרש להפעיל בשנים הבאות".
