סגור
גג עמוד techtalk דסק

מהחזון של הואנג ועד הכורים הגרעיניים של גוגל: הבעיה הלא מדוברת של ה-AI הישראלי

בשבועות האחרונים, השיח הטכנולוגי בישראל לבש חג. השלמת פריסת תשתיות הגיבוי והאזורים המאובטחים של פרויקט נימבוס בהובלת גוגל ו-AWS נתפסה, ובצדק, כציון דרך משמעותי לריבונות המידע הישראלית. במקביל, ג'נסן הואנג, מנכ"ל Nvidia, ממשיך להטיף מעל כל במה לחזון ה-"Sovereign AI", התפיסה שכל מדינה חייבת להחזיק בתשתיות בינה מלאכותית עצמאיות, משבבים ועד דאטה, כדי להבטיח את עתידה הכלכלי והביטחוני.
אבל בין גזירת הסרטים בישראל לחזון הגלובלי של הואנג, מתחבא פיל לבן בחדר שמעטים מדברים עליו: הפיזיקה. או ליתר דיוק, האנרגיה. בזמן שאנחנו בישראל חוגגים את המעבר לענן, ענקיות הטכנולוגיה בארה"ב כבר מבינות שהתשתיות הקיימות לא יספיקו. לא מדובר רק בהערכות, המעשים מדברים. גוגל, מיקרוסופט ואמזון חתמו לאחרונה על עסקאות ענק לרכישת אנרגיה גרעינית כדי להזין את חוות השרתים הרעבות שלהן. הן מבינות שרשת החשמל המסורתית פשוט תקרוס תחת הביקוש האקספוננציאלי של ה-GenAI. וזה מביא אותנו לפרדוקס הישראלי.

אי אנרגטי בתוך מהפכת מחשוב

1 צפייה בגלריה
מרינה רישר אודיוקודס
מרינה רישר אודיוקודס
מרינה רישר
(צילום: יח"צ)
ישראל היא אי אנרגטי. אין לנו רשתות חשמל חוצות גבולות להישען עליהן בעת עומס, וכורים גרעיניים אזרחיים הם לא אופציה זמינה בטווח הנראה לעין, אנחנו חייבים להסתדר עם מה שיש. והתחזיות? הן מאתגרות. לפי נתוני חברת המחקר Mordor Intelligence, צריכת החשמל של הדאטה-סנטרים בישראל צפויה לזנק בכ-7% מדי שנה עד 2030. הגידול בביקושים למחשוב כבד עוקף בסיבוב את קצב פריסת התשתיות הלאומיות.
המשמעות היא שאם נמשיך לרוץ לפתרון הנראה כרגע כברירת מחדל, של להעביר הכל לענן, אנחנו עלולים למצוא את עצמנו בפני שוקת שבורה: או שלרשת לא תהיה קיבולת, או (וזה התרחיש הסביר יותר) שמחירי האנרגיה והמחשוב יזנקו לרמות שיהפכו את השימוש ב-AI ללא כדאי עבור ארגונים רבים.

הלם החשבונית של המנכ"לים

הבעיה היא לא רק לאומית, היא עסקית. מנכ"לים ומנהלי IT שקפצו בהתלהבות על עגלת ה-GenAI מתחילים לחוות כעת את מה שמכנים הלם החשבונית. מודלי שפה גדולים (LLMs) הם זללני אנרגיה ומשאבים. ככל שהארגון מטמיע יותר אוטומציה, יותר בוטים ויותר עיבוד נתונים העלויות תופחות. הריכוזיות של הענן, שפעם נראתה כמו פתרון הקסם להתייעלות, הופכת במציאות החדשה של ה-AI למלכודת עלויות. אז איך פותרים את המשוואה? איך שומרים על ריבונות הדאטה, מאמצים AI מתקדם ועדיין נשארים רווחיים בלי למוטט את רשת החשמל? התשובה דורשת שינוי תפיסה ארכיטקטוני.

היברידיות, מחשוב קצה ויעילות

העתיד של ה-AI הארגוני בישראל לא נמצא רק בחוות השרתים הענקיות של נימבוס, אלא בשילוב חכם בין הענן לבין Edge Computing:
1. להחזיר את הכוח למחשוב קצה: לא כל שאילתה צריכה לנסוע לשרת מרוחק ולחזור. ארגונים חייבים לאמץ ארכיטקטורה היברידית, שבה חלק מהעיבוד מתבצע מקומית בתוך הארגון (On-Prem) או בהתקני קצה (Edge). זה קריטי במיוחד ביישומים רגישים לזמן אמת, כמו Voice AI, תחום בו כל שבריר שנייה של שיהוי קובעת את איכות השירות. עיבוד מקומי לא רק משפר ביצועים ושומר על פרטיות, הוא חוסך אנרגיה ועלויות תעבורה עצומות.
2. דיאטה למודלים: תם עידן ה-One size fits all. לא צריך תותח (מודל ענק כמו GPT-4) כדי להרוג זבוב (פעולה ארגונית פשוטה). העתיד שייך למודלים ספציפיים לתחום (Domain-Specific Models) ולטכניקות דחיסה מתקדמות. מודלים אלו קטנים יותר, מדויקים יותר לצרכי הארגון, וצורכים שבריר מהאנרגיה.

ריבונות אמיתית היא גם קיימות

ממשלת ישראל והתעשייה המקומית חייבות להבין, AI הוא לא רק קוד, הוא תשתית. כדי לממש את חזון ה-Sovereign AI ולהבטיח תחרותיות, אנחנו לא יכולים להסתמך רק על בניית עוד ועוד דאטה-סנטרים מרכזיים. אנחנו צריכים לבנות אקו-סיסטם חכם שמנצל את יתרונות הענן, אבל יודע לעבוד גם בקצה. מי שישכיל לבנות היום תשתית היברידית, המשלבת ענן ריבוני עם יכולות Edge חזקות ומודלים יעילים, לא רק יחסוך בעלויות, הוא יבטיח שהארגון שלו יוכל להמשיך לרוץ קדימה, גם כשהחשמל, או החשבון של המתחרים יתחיל להיגמר.
מרינה רישר היא מנהלת מוצר בכירה לפתרונות רגולציה מאובטחים בחברת AudioCodes