המרוץ בין תוקפים למגנים בסייבר: האם הבינה המלאכותית תטה את הכף לטובת ההגנה?
תעשיית הסייבר נמצאת בנקודת מפנה. במשך עשורים רבים היא פעלה במבנה ברור: התוקפים הקדימו, והמגנים הגיבו. כל פריצת דרך מצד התוקפים הולידה גל חדש של פתרונות הגנה. אלא שהתגובה הזו תמיד הגיעה באיחור. בעשור האחרון, הפער בין התוקפים למגנים רק הלך והתרחב. ככל שארגונים נעשו דיגיטליים יותר, הם נדרשו להגן על שטח תקיפה שהפך עצום ומורכב. סביבת העבודה המודרנית כוללת אפליקציות מבוזרות, תשתיות ענן דינמיות, ספקים חיצוניים, וזהויות רבות שאי אפשר באמת לפקח עליהן ידנית. עבור התוקפים, מדובר בשפע של הזדמנויות, אבל עבור המגנים, במטלה כמעט בלתי אפשרית.
הבעיה איננה רק טכנית, אלא מבנית. התוקף פועל ללא רגולציה, ללא אישורים, וללא מגבלות. הוא יכול להיכשל שוב ושוב עד שיצליח, והצלחה אחת מספיקה. לעומתו, המגן חייב להצליח תמיד, בכל חזית. כל טעות, כל שרשרת אספקה שלא נבדקה כראוי, כל עובד שנפל בפישינג – עלולה להיות הרת גורל. זהו עולם של אסימטריה ברורה – ולאורך שנים רבות, הוא נטה בעקביות לטובת התוקפים.
ואז הגיעה הבינה המלאכותית
הכניסה של AI לזירת הסייבר, כמעט בו-זמנית אצל המגנים והתוקפים, מייצרת תקווה לשבירת אותו פער היסטורי. בצד של התוקפים, נרשמת עלייה דרמטית בשימוש בכלים מבוססי AI, בעיקר לצורכי הנדסה חברתית (social engineering), מתקפות Deepfake הפכו ממופע טכנולוגי מרשים – לכלי תקיפה יומיומי. עובדים מזויפים, עם זהות בדיונית ופרופיל לינקדאין משכנע, מצליחים להתקבל במרמה לעבודה בתפקידי IT ולקבל גישה למערכות רגישות . מנכ"לים וסמנכ״לי כספים מזויפים מבקשים העברות כספים בשיחות וידאו שנראות אמיתיות. מודלי AI למיניהם הפכו למנוע שמפיק תכני פישינג איכותיים, רהוטים ומותאמים אישית – בלחיצת כפתור.
אבל זו רק ההתחלה. בזירה המחקרית, כבר מדברים על קוד תקיפה אוטונומי, משתנה, המתאים את עצמו תוך כדי תנועה. על אפשרות להרעלת מודלים של בינה מלאכותית – כך שההמלצות של עוזר ה-AI שלך יהיו מכוונות מראש על-ידי תוקף. מדברים על סוכני AI שעשויים להפוך בעצמם לאיום – בין אם דרך טעות, סטייה מהוראות, או התקפה חיצונית. מרבית התרחישים האלו טרם התרחשו בפועל, אבל הם בהחלט ברי-השגה מבחינה טכנולוגית.
ומה בצד של ההגנה? כאן דווקא יש חדשות טובות. עולם ההגנה בסייבר עובר בימים אלו מהפכה עמוקה, לעיתים שקטה, אך דרמטית. ראשית, אנחנו עדים לגל עצום של ריענון מערכות הגנה קיימות, שמקבלות כעת גרסאות חכמות, מבוססות הקשר, ומונעות הבנה אמיתית של משמעות. לדוגמה, מערכות מניעת זליגת מידע (DLP) שעד לאחרונה פעלו על בסיס זיהו מילים מסוימות או חוקים פשוטים אחרים, מסוגלות כעת להבין הקשרים סמנטיים ולזהות דליפות וסכנות בצורה שסוף סוף יכולה לפתור את האתגר שלא הצלחנו לפתור במשך הרבה עשורים.
במקביל, פעולות שבעבר הצריכו עבודה ידנית של מומחים – כמו סקירת קוד ומסמכי עיצוב תוכנה, בדיקות חדירה, או תגובה לאירועים – עוברות תהליך של מיכון עמוק. מערכות AI מסוגלות כעת לבצע אנליזות בזמן אמת, לכתוב חוקים, לאכוף מדיניות, ולבצע פעולות הגנה בקצב ובדיוק שבני אדם לא מסוגלים לו.
תחום שלישי וחדש יחסית הוא ההגנה על מערכות ה-AI עצמן. כל עוד עוזרי AI פועלים רק בסביבה מבוקרת – נניח, ככלי עזר לכתיבה או סיכום – הסיכון מוגבל. אבל ככל שהם מקבלים סמכויות, מתחברים למערכות מידע או מנהלים תהליכים – כך עולה הצורך באבטחה ייעודית: איך יודעים שהסוכן לא הוטעה? איך מזהים שהמודל הורעל? איך מאמתים זהות בין סוכנים שפועלים עצמאית ומתקשרים זה עם זה?
ב-Team8, צוותי מחקר הסייבר ומחקר ה-AI מתעסקים בהזדמנויות האלו מדי יום. אנחנו עדים לגל יוצא דופן של יזמות חדשנית בשלושת התחומים הללו. היזמים שאנחנו עובדים איתם – חלקם בוגרי יחידות טכנולוגיות, אחרים פורשי חברות ענק – מזהים את ההזדמנות: זו אולי הפעם הראשונה שבה יש סיכוי ממשי להטות את הכף בחזרה לטובת המגנים. סוכני AI, שפועלים מסביב לשעון, לומדים לבד, מבינים הקשר, ומגיבים במהירות – עשויים להפוך את עולם הסייבר מעולם תגובתי – לעולם יוזם, לומד ואפקטיבי בהרבה.
זו תקופה נפלאה למשקיעי הון סיכון בסייבר; תזמון מעולה ליזמים להקים חברות סייבר חדשות; והזדמנות פנטסטית למנהלי סייבר בארגונים (CISOs) לקחת חלק במהפכה ולהיות שותפים לעיצוב פתרונות דור העתיד בסייבר לצד חברות סטארט-אפ פורצות דרך. הבינה המלאכותית לא תפתור את כל הבעיות. אבל היא בהחלט משנה את חוקי המשחק. וייתכן, שבפעם הראשונה מזה עשורים – המשחק הזה עשוי להסתיים בשוויון. ואולי, אפילו, בניצחון של הצד המגן.
לירן גרינברג הוא שותף-מנהל ומייסד Team8
