האקר ה־AI לא גאון. הוא עקבי
הסכנה האמיתית בבינה מלאכותית אינה בכך שהיא חושבת טוב יותר מבני אדם, אלא בכך שהיא מסוגלת לבצע שוב ושוב את אותה שיטת תקיפה, בקנה מידה ובקצב שלא היו אפשריים עד היום
פרסומים על תקיפות סייבר שבוצעו באמצעות AI מציגים בדרך כלל תרחיש של כלי תקיפה מתוחכם: מערכת שגילתה חולשה נסתרת, כתבה קוד שאדם לא היה חושב עליו או עקפה הגנות בדרך מבריקה במיוחד. קל להבין את המשיכה לתרחיש הזה, אך הוא מפספס סכנה מיידית יותר, שקטה ופחות זוהרת: היכולת להשתמש שוב ושוב באותה שיטת תקיפה מול מספר גדול בהרבה של מערכות.
כדי שה־AI יהפוך לכלי תקיפה רב־עוצמה, הוא אינו חייב להמציא דבר חדש. מרגע שהתוקפים מבינים מדוע שיטה מסוימת עובדת, המערכת יכולה לחפש את אותם תנאים במערכות נוספות, להתאים את הבדיקה להבדלים ביניהן ולהמשיך גם לאחר ניסיונות כושלים. במקרים רבים, עיקר התחכום נמצא בגילוי הראשון. מכאן והלאה, המערכת מגדילה את מספר הניסיונות ואת מספר המערכות שאפשר לבדוק.
במחקר שערכנו באפליקציות אנדרואיד, שדימה שיטות עבודה של תוקפים אמיתיים, מצאו החוקרים בשלב הראשון שבע חולשות בעבודה ידנית. לאחר שזיהינו את התנאים המשותפים שיצרו אותן, הפעלנו את המערכת על 20 אפליקציות. כלי התקיפה מצא חמש חולשות נוספות מאותה משפחה, לצד חולשה נפרדת שאפשרה השתלטות על חשבון.
בכל אחת מהאפליקציות הקוד, הממשק וההרשאות נראו אחרת. המערכת לא יכלה להסתפק בהרצה חוזרת של אותה פקודה. היא נדרשה לזהות אם וכיצד התקיימו התנאים האלה בכל אפליקציה ולהתאים את הבדיקה למבנה שלה.
כללים קבועים עובדים היטב כאשר כל השלבים והתגובות ידועים מראש. בבדיקות אבטחה, כל מערכת מגיבה אחרת; כישלון מחייב שינוי כיוון, וממצא חלקי משפיע על הצעד הבא. מערכת שמסוגלת להתאים את הבדיקה למה שכבר מצאה יכולה לעבור בין מערכות רבות, בלי שחוקר ילווה כל ניסיון מתחילתו ועד סופו. מה שמבדיל אותה מסקריפט מהיר יותר הוא היכולת לשנות את הבדיקה בהתאם למה שנמצא בדרך.
המערכת צריכה להבין את ההקשר של כל יעד. היא אינה יכולה להריץ תרחיש קבוע באופן עיוור; עליה להבין כיצד היעד בנוי, לזהות דפוסים שלא הוגדרו מראש ולהחליט אילו ממצאים מצביעים על סיכון ממשי. בעבודה ידנית, כל יעד נוסף דורש זמן נוסף של חוקר. כשה־AI מבצע את ההתאמה בעצמו, אפשר לבדוק מערכות רבות ובתדירות גבוהה יותר, בלי להתחיל בכל פעם מחדש ובלי להצמיד חוקר לכל יעד.
סוכני AI יכולים לבצע שוב ושוב רצף שלם של פעולות. במחקר נוסף שערכנו בפלטפורמת הקוד הפתוח לניהול כנסים Pretalx, הראינו שהסוכנים יכולים להגיש הצעות פיקטיביות להרצאות לכנסים שונים ולהמתין לפעולה צפויה של המארגנים, כמו אישור ההרצאה, שמפעילה את החולשה. משימה שבעבר דרשה מעקב ועבודה ידנית יכולה להתבצע במקביל מול יעדים רבים.
תוקף אינו צריך להצליח בכל הניסיונות, ואפילו לא ברובם. די בהצלחה אחת. ככל שהעלות של כל ניסיון נוסף יורדת, מערכת אוטומטית יכולה לנסות את אותה שיטת תקיפה מול יעדים רבים, בלי להוסיף כוח אדם ובלי לבחור מראש רק את המטרות שנראות מבטיחות.
ארגון, לעומת זאת, צריך להגן על אפליקציות רבות, על ממשקי API, על הרשאות ועל תהליכים עסקיים שמשתנים עם הקוד. חיבור של שירות חדש, שינוי בקשר בין שני רכיבים או הרחבת הרשאה יכולים לפתוח מסלול תקיפה שלא היה קיים בבדיקה הקודמת.
בדיקת חדירה שנתית או רבעונית היא צילום מצב. היא יכולה להיות מקצועית ומעמיקה, אך היא מתארת את המערכת ביום שבו נבדקה. שבועות לאחר מכן הקוד כבר השתנה, ההרשאות עודכנו ושירותים חדשים נוספו. תוקף שממשיך לנסות אינו מחכה לבדיקה הבאה.
השינוי העמוק יותר שה־AI מביא לעולם הסייבר אינו היכולת להחליף את המומחה, אלא לקצר את המרחק בין גילוי אחד למספר עצום של ניסיונות. שיטת תקיפה שנדרשו זמן, יצירתיות וניסיון כדי לפתח, יכולה להיבדק לאחר מכן שוב ושוב, מול מערכות שונות ובעלות נמוכה בהרבה.
לכן האיום אינו מתחיל בנקודה שבה מכונה תחשוב טוב יותר מחוקר אנושי. הוא מתחיל כאשר רעיון של אדם אחד יכול להמשיך לפעול בהיקפים שאדם אחד, או קבוצת תוקפים, לא היו מסוגלים להגיע אליהם בעבר. מול יכולת כזו, הגנה שנבחנת ומתעדכנת רק אחת לכמה חודשים תתקשה לעמוד בקצב.
עידו גפן הוא מייסד־שותף ומנכ"ל חברת הסייבר Novee Security
