ג'ייפרוג חושפת את 'נקודות העיוורון' של ארגונים בתחום ה-AI, ומשיקה יכולת חדשה לניהול ריכוזי של שרשרת אספקת התוכנה
היכולת החדשה, Shadow AI Detection, מאפשרת שקיפות וניהול סיכונים, ומגנה מפני שימוש בלתי מבוקר במודלי AI ובקריאות API
חברת התוכנה JFrog (Nasdaq: FROG), הכריזה על הרחבת יכולות ה-AI Governance עם השקת היכולת החדשה- Shadow AI Detection בפלטפורמת JFrog Software Supply Chain Platform.
הפונקציונליות החדשה, שהוצגה בכנס JFrog swampUP Europe השנתי, נועדה לספק לארגונים נראות ושליטה מלאה לניהול ואבטחת כל שרשרת אספקת ה-AI, ולהגן מפני שימוש בלתי מבוקר במודלי AI ובקריאות API לספקיות שירותי AI- תופעה הידועה בשם Shadow AI, שעלולה לחשוף את הארגון לסיכוני אבטחה ואי עמידה ברגולציה.
“זיהוי וניהול הסיכונים של Shadow AI הופכים בעידן הנוכחי לעדיפות עליונה עבור CIOs ו-CISOs, הנדרשים לאזן בין חדשנות לשמירה על אבטחה,” אומר יובל פרנבך, VP and CTO ב-JFrog ML. “ארגונים צריכים לאמץ תהליכי פיתוח מוכחים, המשלבים רצף עבודה ידידותי למפתחים יחד עם אבטחה חזקה ומדיניות תקינה. שילוב היכולות של Shadow AI Detection מחזקת את מעמדה של JFrog באבטחת שרשרת אספקת ה-AI מקצה לקצה, ומאפשרת לחברות לנצל את יכולות הבינה המלאכותית באופן בטוח ואחראי”.
שקיפות מלאה לניהול חכם של מודלי AI ו- APIs
החדירה המהירה של טכנולוגיות AI לתהליכי הפיתוח הארגוניים יצרה אתגר ניהולי מהותי. צוותי פיתוח וה- Data Science משלבים לעיתים קרובות מודלי AI ושירותים מספקים חיצוניים כמו Anthropic, OpenAI ו-Google, ללא פיקוח ובקרה ארגונית. פעילות זו המכונה Shadow AI- יוצרת "נקודות עיוורון" מסוכנות, שעלולות לחשוף את הארגון להפרות רגולציה, דליפות מידע, ואף מתקפות על שרשרת האספקה.
הפתרון החדש של JFrog Shadow AI Detection מספק יכולת לזיהוי אוטומטי וליצירת מאגר (Inventory) של כל מודלי ה-AI הפנימיים וכל ה-API Gateways החיצוניים המשמשים את הארגון - בין אם מדובר במקורות מאושרים או חיצוניים.
לאחר הזיהוי, ניתן לנהל את כלל השירותים והמודלים הללו באופן מרוכז, עם היכולות:
• לאכוף מדיניות אבטחה ועמידה ברגולציה על כלל נכסי ה-AI.
• להגדיר מסלולים מאובטחים למשתמשים מורשים לגישה לשירותי AI צד שלישי, תוך הבטחת שקיפות מלאה ויכולת ביקורת (Auditability).
• לעקוב ולנטר את השימוש במודלי AI ו-APIs חיצוניים כגון OpenAI או Gemini.
עמידה בדרישות הרגולציה הגלובלית בתחום ה-AI
הצורך ביצירת 'מסלול ביקורת' מלא לפעילות AI הופך הכרחי נוכח רגולציות חדשות וסיכוני אבטחה גוברים. יכולות הזיהוי החדשות של JFrog נועדו לאפשר לארגונים לשמור על ציות רגולטורי ואבטחה בהתאם למסגרות רגולציה מרכזיות, ביניהן: US Transparency in Frontier AI Act, EU Cyber Resilience Act , EU AI Act , BSI Guidelines (גרמניה), NIS2 Directive של האיחוד האירופי ו-Guidelines and Companion Guide for Securing AI Systems.
רגולציות אלה נועדו להבטיח אחריות ושקיפות, ולבסס חוסן לאורך כל שרשרת אספקת תוכנה ו-AI, באמצעות: קידום פיתוח אחראי של מערכות AI, יישום תקני ניהול סיכונים ודיווח מחמירים, חיוב בשקיפות מלאה לגבי רכיבי תוכנה והגנה על מערכות AI משלב התכנון ועד הפריסה.
