לא רק שבבים: אנבידיה נכנסת לשוק אבטחת סוכני ה-AI - עם פיתוחים מישראל
נקודות עיקריות.כלכליסט AI
- אנבידיה השיקה פלטפורמת קוד פתוח חדשה לאבטחת סוכני בינה מלאכותית המאפשרת אכיפת מדיניות בכל שכבות המערכת.
- חלק מרכזי מהפלטפורמה פותח בישראל ומתבסס על שבבי ה-DPU המנטרים את פעילות הסוכנים ברמת החומרה.
- החברה הכריזה על שיתופי פעולה נרחבים עם ענקיות טכנולוגיה כגון אנת"רופיק, סיילספורס, SAP וחברות סייבר ישראליות.
אנבידיה (NVIDIA) הכריזה היום על NVIDIA Open Agent Safety Platform, פלטפורמה המשלבת תוכנת קוד פתוח וארכיטקטורת ייחוס כדי לחזק את אבטחת סוכני ה-AI, משלב בדיקת הסוכנים ועד לפריסתם בפועל. הפלטפורמה מאפשרת להגדיר ולאכוף מדיניות כללי פעולה ואמצעי בקרה בכל שכבות המערכת: התוכנה, החומרה, המחשוב ומערכות רובוטיות המפעילות סוכנים.
הפלטפורמה החדשה שחלק משמעותי ממנה פותח בישראל, מתחרה מול מספר רב של חברות סייבר ישראליות שמציעות היום שלל של פתרונות תוכנה לאבטחת סוכני AI. כמו כן, מספר לא מועט של חברות סייבר ישראליות הן חלק מהחברות שחתמו עם אנבידיה על שיתופי פעולה בהם אירגיולר, טורק, upwind ועוד.
בפלטפורמה החדשה, כאמור, יש לא מעט פיתוחים ישראלים כאשר המרכזי בהם הוא סנטרי, שפועלת על גבי מעבדי BlueField-4 DPU שפותחו במרכז הפיתוח של אנבידיה בישראל, מנטרת ברציפות את פעילות הסוכנים ואוכפת מדיניות אבטחה באופן עצמאי, ברמת השבב. היא משלבת זיהוי איומים, בקרה על הסוכנים ואכיפת מדיניות באמצעות החומרה, והגנה על הגישה לנתונים. יכולות אלה פועלות מתוך סביבה מבודדת ונפרדת, המגיבה בזמן אמת ואינה גלויה לסוכנים או לתוקפים.
"הפוטנציאל יוצא הדופן של הבינה המלאכותית עבור החברה האנושית יתממש רק אם נפתור את סוגיית הבטיחות ב-AI", אמר ג'נסן הואנג, מייסד ומנכ"ל אנבידיה. "בעודנו ממשיכים לגלות יכולות חדשות בחזית ה-AI, עלינו להאיץ את הגילויים גם בחזית בטיחות הבינה המלאכותית. בטיחות ואבטחה מחייבות עבודה הנדסית בכל שכבות המערכת. NVIDIA Open Agent Safety Platform מחברת בין התעשייה, חוקרים וארגונים במגזר הציבורי כדי לשתף שיטות עבודה מומלצות, להגיע להסכמה על שיטות הערכה ולקדם שיתוף פעולה בין לאומי. יחד נוכל להעלות את רף הבטיחות של AI בעולם".
בהודעה שהוציאה החברה היא אף מציינת מספר שיתופי פעולה משמעותיים ובהם - אנת'רופיק (Anthropic) ו-NVIDIA משתפות פעולה כדי להוסיף שכבות של אבטחה ושליטה למערך סוכני ה-AI. ב-Claude Managed Agents, תהליך הפעולה של הסוכן רץ על שרת נפרד מסביבות העבודה המבודדות שבהן מתבצעות משימותיו. שיתופי פעולה משמעותיים נרשמו גם עם סיילספורס, SAP, ענקיות הסייבר קראודסטרייק, סיסקו ועוד.
בתוך כך, SpaceXAI משתמשת בפלטפורמה החדשה עבור סוכני התכנות של Cursor ומודלי Grok. "ככל שלקוחות מסתמכים יותר על סוכנים לביצוע עבודה ממשית, יש לאכוף את הבטיחות מחוץ למודל, באמצעות אמצעי בקרה נוספים שהסוכן אינו יכול לעקוף", אמר מייק ניקולס, נשיא SpaceXAI. "לקוחות צריכים להיות מסוגלים לקבוע את הגבולות האלה עבור Cursor ו-Grok ולסמוך על כך שהם יישמרו".
