דעה
חשבון ה-AI התנפח? אולי זו בכלל מתקפת סייבר
סוכני AI יכולים להקפיץ את צריכת הטוקנים והעלויות בגלל תקלה, שימוש לא מורשה או מתקפה מסוג "Denial of Wallet"; ארגונים צריכים לנטר את דפוסי השימוש בזמן אמת ולחבר בין ניהול עלויות ה-AI לאבטחת מידע
כשארגונים התחילו לאמץ מערכות בינה מלאכותית, רוב הדיון התמקד ביכולות: איך להפיק יותר מידע, איך לייעל עבודה, ואיך לאפשר לעובדים ולסוכני AI לבצע משימות במהירות. אבל בשקט, כמעט בלי לשים לב, נוצרה גם בעיה חדשה: מי שולט בצריכת הבינה המלאכותית, ומה קורה כשהשימוש בה יוצא משליטה?
כיום, רוב ספקי ה-AI הגדולים, כמו OpenAI, Anthropic ו-Google, גובים תשלום בהתאם להיקף השימוש, ובמקרים רבים לפי כמות הטוקנים שנצרכו. במבט ראשון זה נשמע כמו מודל תמחור הגיוני: משלמים על מה שמשתמשים. אבל כאן מסתתר שינוי משמעותי. אם בעבר ארגון רכש תוכנה בעלות יחסית צפויה, כיום חלק מעלויות ה-AI יכולות להשתנות בכל רגע, בהתאם להתנהגות של משתמשים, יישומים וסוכני AI אוטונומיים.
דמיינו עכשיו סוכן AI שבדרך כלל צורך כמה אלפי טוקנים ביום ומתחיל לפתע לצרוך מאות אלפים. הסיבה יכולה להיות תמימה יחסית, כמו תקלה או לולאה שנוצרה בתהליך אוטומטי. אבל היא יכולה גם להצביע על מפתח API שנחשף, שימוש בלתי מורשה במערכת, ניסיון לנצל אותה או פעילות חריגה שדורשת בדיקה.
לא כל חריגה היא מתקפת סייבר, אבל שינוי חד בדפוס השימוש הוא בהחלט אות שדורש בדיקה.
אחת הדוגמאות לכך היא תרחיש המכונה Denial of Wallet. אם בעבר תוקפים ניסו להעמיס על מערכות כדי לפגוע בזמינות שלהן, במערכות ענן ו-AI מבוססות שימוש ניתן לייצר גם פגיעה כלכלית באמצעות צריכה מכוונת של משאבים יקרים. במקרה כזה המערכת אפילו לא חייבת לקרוס. היא יכולה להמשיך לעבוד כרגיל, בזמן שהחשבון ממשיך לטפס.
הבעיה הזאת מצביעה על צורך חדש בארגונים: לא מספיק לדעת אילו מודלי AI נמצאים בשימוש. צריך לדעת מי משתמש בהם, באיזה היקף, לאיזו מטרה ומה נחשב להתנהגות נורמלית עבור כל משתמש, אפליקציה או סוכן.
אחת השכבות שיכולות לספק את הבקרה הזאת היא AI Gateway, שכבת תיווך שיושבת בין המשתמשים, האפליקציות וסוכני ה-AI לבין המודלים עצמם.
אפשר לחשוב עליה כעל נקודת בקרה מרכזית שדרכה עוברות בקשות למודלים. היא יכולה לזהות מי שלח בקשה, לאיזה מודל היא נשלחה, כמה משאבים היא צורכת והאם הפעילות תואמת את המדיניות שהארגון הגדיר.
אם סוכן מסוים צורך בדרך כלל כמות מסוימת של טוקנים ומתחיל לפתע לחרוג באופן קיצוני מהדפוס שלו, זו אנומליה שראוי לבדוק.
בעולם הישן של APIs, ארגונים הסתכלו בעיקר על מספר הבקשות שנשלחות בפרק זמן מסוים. בעולם ה-AI המדד הזה כבר אינו מספיק. שתי בקשות יכולות להיראות זהות ברמת ה-API, אבל להיות שונות מאוד מבחינת כמות המידע שהן שולחות למודל, אורך התשובה שהן מייצרות, העלות שלהן ורמת הסיכון שהן יוצרות.
לכן ארגונים צריכים לעבור מחשיבה של "כמה בקשות נשלחו" לחשיבה של "מה בדיוק קרה בכל בקשה". הבקרה הזו מתחילה בזיהוי. כל שימוש צריך להיות משויך ככל האפשר למשתמש, לאפליקציה, למחלקה או לסוכן מסוים. כך אפשר להגדיר הרשאות, מגבלות שימוש ותקציבים שונים לפי הצורך.
השלב הבא הוא לזהות חריגות בזמן אמת. לא רק כמה טוקנים נצרכו, אלא האם אופי הפעילות מתאים למה שמצופה מאותו משתמש או סוכן. עלייה חריגה בגודל הקלט יכולה, למשל, להצדיק בדיקה האם מידע גדול או רגיש נשלח למודל שלא בהתאם למדיניות.
וכאשר החריגה משמעותית, הארגון צריך גם להיות מסוגל לפעול: להגביל את הפעילות, לחסום אותה זמנית, לדרוש אישור נוסף או להעביר את האירוע לבדיקה של צוותי האבטחה.
כאן בדיוק מתחבר עולם ניהול העלויות לעולם הסייבר. אותם נתונים, שמאפשרים ל-CFO להבין כמה עולה השימוש ב-AI, יכולים לעזור ל-CISO לזהות שמשהו חריג מתרחש במערכת. בעולם ה-AI, הגבול בין FinOps ל-Security מתחיל להיטשטש.
לכן, בעידן שבו עובדים וסוכני AI מבצעים יותר ויותר פעולות באופן אוטונומי, השאלה איננה רק כמה עולה להשתמש בבינה מלאכותית. השאלה היא מי עוקב אחרי השימוש, מי יודע לזהות שינוי בהתנהגות ומי יכול לעצור פעילות חריגה לפני שהיא הופכת לאירוע משמעותי.
מאת גיא חורש, מהנדס Presale סייבר (אבטחת מידע AI, Identity, Applications) בבינת תקשורת מחשבים
