פריצת האבטחה ב-OpenAI מסמנת: הפרטים שאתם משתפים בכלי AI עלולים לדלוף
מאגר הפרטים המצטבר ב-ChatGPT ודומיו הוא מכרה זהב עבור האקרים, שעובדים קשה במיוחד כדי לחלץ את המידע; מי ינצח במירוץ על המידע שלכם ב-ChatGPT, ומה חברות ה-AI צריכות לעשות כדי שהמידע לא ידלוף
ב-Open AI אולי דיווחו על תקרית האבטחה האחרונה באופן שמקטין את ממדי הפריצה, אבל האמת היא שמדובר בתופעה מדאיגה. לא מדובר בפריצה ישירה לשרתי החברה עצמה, אלא לחשיפת מידע דרך ספק צד שלישי בשם Mixpanel, שמשמש ככלי לניתוח נתונים.
הפירצה אפשרה לתוקפים לקבל גישה למידע כללי על משתמשים (בעיקר מפתחים) שהשתמשו ב־API של OpenAI, בעיקר נתונים כמו שמות, כתובות מייל, פרטי דפדפן, מערכת ההפעלה ומיקומים משוערים. משתמשי הקצה - לכאורה לא נפגעו מהאירוע.
האירוע הזה, כמו אירועים אחרונים שמצטרפים אליו, מדגיש את המאמץ הבלתי נלאה של ההאקרים להגיע לגביע הקדוש בעידן הבינה המלאכותית: חשבונות המשתמשים ב-ChatGPT. חברות ה-AI עושות כל מאמץ להגן על השרתים שלהן, ובינתיים ההאקרים גילו את נקודת התורפה: חברות צד שלישי ושרשראות הספקים (third-party dependencies).
גם אם פריצת האבטחה לא כוללת סיסמאות או שיחות אישיות, היא עדיין חושפת מידע שיכול לשמש תוקפים לניסיונות התחזות (פישינג), איסוף מודיעין אישי או יצירת תחושת אמון מזויפת. למשל, אם מישהו יודע באיזה שירות השתמשת ובאיזו מערכת הפעלה, הוא יכול לשלוח לך מייל שנראה לגיטימי לחלוטין - ולהוביל אותך להכניס סיסמה או להוריד קובץ זדוני.
מעבר לכך, פרצה כזו מחלישה את תחושת הביטחון הכללית במערכות מבוססות בינה מלאכותית. ככל שאנחנו מסתמכים יותר על AI בחיי היום-יום לעבודה, בריאות, או ניהול מידע אישי, כך גדלה הרגישות לדליפות גם מהשכבות שמסביב למערכת עצמה. ולכן גם משתמשים שאינם מפתחים צריכים לדעת על האירוע, להבין מה נחשף, ולפעול בהתאם - למשל, לבדוק אם קיבלו הודעות חשודות ולהיזהר יותר.
כמי שמנהל חברה שעוסקת באבטחת AI, האירוע הזה הוא תזכורת טובה שפתרונות כמו governance (ממשל וניהול מערכות), יכולת ראות וניטור, הגנה על מידע, אכיפת מדיניות ועוד, הם לא "nice to have" פיצ׳ר אלא רכיבים קריטיים. האירוע מדגיש את החשיבות של שכבת הגנה נוספת עבור חברות, שכן המודלים עצמם כמו OpenAI ,Gemini ואחרים, אינם מתמקדים בפיתוח פתרונות אבטחה, אלא בעיקר בשיפור ופיתוח המוצר עצמו.
פריצה לחשבונות משתמשים בחשבונות בינה מלאכותית היא לא שאלה של אם, אלא מתי. המידע הרגיש ביותר עלול לדלוף ברגע שהאקרים יגלו פרצה אחת, וכולנו יודעים שהיא תגיע בסוף. כדי להתגונן, חברות הבינה המלאכותית חייבות לשים כמה שיותר שכבות הגנה, גם כאלה שמגיעות מבחוץ.
אלעד שולמן הוא מייסד שותף ומנכ"ל Security Lasso
