"קורה משהו בשוק השבבים, בעוד שלושה חודשים נדע מה בדיוק"
הישראלים שמתדלקים את מלחמת שבבי ה־AI: אחרי שגוגל הכריזה מלחמה על השבבים של אנבידיה, גם אמזון מעלה הילוך ומגייסת שחקני חיזוק ישראלים. דין לייטרסדורף, מייסד דקארט: "26 הימים שעברו מהרגע שאמזון הציעו לי לעלות על הבמה ועד ההרצאה היו העמוסים ביותר בחיי"
בזמן שהעולם הטכנולוגי עסוק בשאלה האם שבבי ה־AI של גוגל (TPU) יכולים לסדוק ולו במעט את השליטה המוחלטת של אנבידיה בשוק עם שבבי ה־GPU שלה, בשבוע החולף העלתה גם אמזון הילוך במלחמת השבבים. השקת ה־TRAINIUM 3 אומנם לא זכתה להדים כמו ה־TPU שעליהם אומן מודל ג'מיני 3 של גוגל כמה שבועות קודם לכן, וגם לא תורגמה לזינוק במניה, אבל דווקא בהקשר הישראלי יש כאן אירוע מסקרן.
ראשית, השבב מבוסס על הטכנולוגיה שקיבלה אמזון עם רכישת אנפורנה של אביגדור וילנץ בסכום שברור היום כי היה מציאה, 350 מיליון דולר, אך נובע מכך שהעסקה נעשתה בדיוק לפני עשור. בכירי אנפורנה ובראשם נאפע בשארה עדיין מובילים את פיתוח שבבי ה־AI באמזון בניסיון להציב אותה ראש בראש מול אנבידיה וגוגל.
שנית, אחת החברות הראשונות שהציגה מודל שרץ טוב יותר על שבביה של אמזון מאשר על אנבידיה היא דקארט הישראלית. דקארט היא "ילד פלא" ישראלי ולמעשה החברה הישראלית היחידה שמוזכרת היום ברשימות הסטארט־אפים המבטיחים בתחום חברות המודלים הגדולים של בינה מלאכותית.
החברה, שהוקמה על ידי דין לייטרסדורף ומשה שליו לפני שנתיים, בנתה מודל שמייצר וידיאו בזמן אמת ובתוך זמן קצר הספיקה לגייס 156 מיליון דולר בשלושה סבבים, האחרון העריך את שווייה ב־3.1 מיליארד דולר. עד היום דקארט הריצה את המודלים שלה על שבבי GPU של אנבידיה, אבל בקיץ האחרון, באחד הכנסים ניגשו ללייטרסדורף אנשי אמזון והציעו לנסות את השבב החדש שלהם. לייטרסדורף הסכים וזה עבד. שבועות לאחר מכן הוא הוזמן להציג את המודל בכנס השנתי שעורכת אמזון בארה"ב, re:Invent, במה ששמורה בדרך כלל לבכירי התעשייה ולא נגישה לסטארט־אפים בני שנתיים.
"26 הימים שעברו מהרגע שאמזון הציעו לי לעלות על הבמה ועד ההרצאה היו העמוסים ביותר בחיי", אומר לייטרסדורף בשיחה עם כלכליסט. "כל מי שעולה על הבמה באירוע הזה יודע על כך שנה מראש, ואז גם מתחיל לבנות את ההרצאות. כל המצגות סגורות חודשים מראש. אבל אנחנו התחלנו לעבוד על המצגת 12 יום לפני. בהתחלה חשבנו שאין סיכוי שנעמוד בזה, אבל בסוף זה קרה. וזאת עוד אחרי שאמזון פסלו לנו לא מעט דברים שעובדים רק ב־99.9% מהמקרים. לשלב הלייב דמו היו 16 גיבויים וסימולציות לכל תרחיש, כולל לכך שכל חוות השרתים של אמזון נופלת והקהל לא אמור להרגיש דיליי אפילו של עשירית שנייה". לבסוף לייטרסדורף דיבר חמש דקות על הבמה שאליה נשואות עיניים של מיליונים והדגים יצירת וידיאו בזמן אמת כאשר דמותו מופיעה במראה שונה לחלוטין על המסכים.
השימושים העיקריים של הטכנולוגיה שמפתחת דקארט הם בתחום הגיימינג, שם יצירת וידיאו בזמן אמת מאפשרת חוויה אישית וייחודית לגמרי של המשחק, אבל במישורים המסחריים יותר היא פונה לעולם הרובוטיקה ככזו שתוכל לאפשר אימון רובוטים לאינסוף מצבים בחיים האנושיים וגם בעולמות האי קומרס, שם למשל תאפשר למדוד בגד מהבית ולקבל וידיאו מלא בזמן אמת.
לפי לייטרסדורף, דקארט נהפכה כעת ללקוח מרכזי של שבבי AI לצד אנתרופיק, שעומדת מאחורי קלוד ומשתמשת כבר תקופה בשבבי אמזון שגם מושקעת בו. אף שדקארט השלימה גיוס של 100 מיליון דולר בקיץ האחרון כעת לא פוסלים בסביבת החברה כי אמזון תשתתף או אף תוביל את גיוס ההון הבא. ההיסטוריה הקצרה של דקארט מלמדת שהיא מגייסת יותר מהר ממה שהיא מתכננת. עצם העובדה שדקארט הצעירה והקטנה היא אחד הלקוחות הגדולים של אמזון לא מחמיאה כמובן לענקית של ג'ף בזוס. בתעשייה מדברים על כך שאף שהשבבים מציגים ביצועים טובים וחסכוניים יותר מאנבידיה בתחום האנרגיה, האתגר הגדול של אמזון עדיין טמון בתוכנה שמקשרת בין היישומים לחומרה ושם לקודה (CUDA) של אנבידיה עדיין אין תחרות.
מבחינת לייטרסדורף, הביצועים של שבבי אמזון מפתיעים לטובה: "המטרה שלנו היא להריץ את הווידאו כמה שיותר מהר ובעלויות נמוכות יותר. ללקוחות שלנו לא משנה על איזה שבבים רץ המודל. כרגע העבודה על שבבי אמזון מאפשרת לנו להוזיל משמעותית את העלויות והווידיאו גם רץ פי ארבעה יותר מהר מאשר על אנבידיה. המקסימום שהגענו אליו ב־GPU הוא 26 פריימים לשנייה ואילו בטרייניום מתקרבים ל־101 פריימים. לעין האנושית זה כמעט ולא נראה, אבל בעולמות של רובוטיקה ורכב אוטונומי, זה כבר מניעת תאונה".
רוב עולם ה־AI עובד היום על השבב של אנבידיה, וזה ניכר היטב הן בביצועיה העסקיים והן במנייתה. אבל לייטרסדורף מאמין כי העתיד הוא בהתאמת שבב לסוג של משימה. "עוד לא הייתי מספיד אף אחד וגם לא מכתיר אף אחד כמנצח, אבל בוודאות קורה משהו בהקשר הזה. התחום רץ מהר, וכל מה שאפשר לומר היום הוא שהעולם יבין הרבה יותר בעוד שלושה חודשים", אומר לייטרסדורף.
לדבריו, שלושה חודשים הוא טווח הזמן המקסימלי היום בעולמות ה־AI שאפשר לדמיין את השינויים הצפויים, שנה קדימה זה כבר בלתי אפשרי. "אמזון אומנם לא עלתה אחרי חשיפת טרייניום אבל היא עשויה להגיב בעוד כמה חודשים. גוגל לעומת זאת כבר עקפה את מיקרוסופט בשווי וזה אומר הרבה".
