AI Week
"אנחנו רגע לפני מלחמת הסייבר הראשונה שבה לא תהיה ירייה אחת"
יוסי כראדי, ראש מערך הסייבר הלאומי אמר בשבוע ה-AI של כלכליסט ו-Commit: "אויב עם עוצמות דיגיטליות רחבות שיתקוף מדינה ויעשה עליה מצור דיגיטלי באמצעות תקיפות סייבר מבוססות AI ויכולות אחרות - יפגע באזרח הפשוט. כל מה שצריך זה שהמדינה תרים דגל לבן"
במסגרת שבוע ה-AI של כלכליסט ו-Commit שוחח כתב כלכליסט עומר כביר עם יוסי כראדי, ראש מערך הסייבר הלאומי, על הגנה בעידן פרוץ ומה נדרש מישראל כדי לשמור על יתרון בעולם שבו גם התוקפים וגם המגנים חמושים בבינה מלאכותית.
איך AI משנה את מלחמות העתיד והסייבר?
"AI וסייבר זה מפגש בלתי נמנע", אמר כראדי. "AI מתבסס על הדיגיטל ששינה את חיינו. הוא מכפיל או אפילו מרבע את השימוש והתלות בדיגיטל ואנחנו רואים את AI וסייבר משתלבים בשלושה רבדים: הראשון, שימוש ב-AI להגנת הסייבר. אנחנו משפרים מאיצים ומייעלים את ההגנה בסייבר שלנו באמצעות יכולות AI. השני, הגנת הסייבר על AI. כשאתה משתמש ב-Open AI או אחר צריך לדאוג שמשתמשים ב-AI מוגן ובטוח. השלישי והמתקדם זה AI ורסוס AI. כשהסוכנים יתקפו אותנו וסוכנים יבצעו את ההגנה".
איך פושעי סייבר משתמשים ב-AI כדי לתכנן מתקפות?
"אנחנו מתמודדים עם אויבים בדרגים שונים. לפי דו"ח אחרון של מיקרוסופט מדינת ישראל היא המדינה השלישית הנתקפת בעולם. בתוך התקיפות יש רמות שונות של תוקפים. יש כבר היום תוקפים שמשתמשים ב-AI כדי לשפר את הקוד שלהם, את הנוזקות שלהם, כדי להפוך אותם לחכמות ויעילות יותר".
זה מוריד את רף הכניסה של פושעי סייבר?
"נכון. הדרך הפשוטה לראות את זה היא דרך העיניים שלנו. היום הרבה יותר קל לכתוב קוד ותוכנה ולעשות promt בבית ולהשתמש ב-AI לכל שימוש שרוצים. אותו דבר בעיני האויב, הרבה יותר קל להיכנס למגרש הזה של תוקפי ה-AI. גם שם שונה תוקף האקר בודד בן 16 מקבוצה מתקדמת ובטח מתוקף מעצמתי. AI העלה את הרמה לכל אחת מהקבוצות ומאפשר להן תקיפות מתקדמות יותר למול המגנים.
אפשר להסתכל על היכולת של AI, עוד לפני שעוסקים בנוזקה או בקוד, ביכולת שלו לסרוק את הרשת שלי, לאתר את החולשות, לתקוף אותי 24/7 ולמצוא את החולשות בצורה טובה יותר, הוא לומד הרבה יותר מהר ובצורה יור חכמה ומתאים את הנוזקה למול החולשה שלנו כמגן. הוא עושה את זה יותר טוב מהאדם".
צריך לדעת להגן על מערכות AI בשני היבטים. אחד, למנוע שיעשו בהן שימוש לרעה ושנית למנוע מתקפות סייבר ישירות נגדן שאולי יחדירו איזה קוד זדוני?
"נכון. הגנה על AI צריכה להיות פעם אחת על האלגוריתם עצמו, ופעם שנייה על הדאטה שמזין אותו. הרי כל הכוח של AI שהוא לוקח הרבה דאטה ויודע לעבד אותו ולהפיק ממנו משהו. אבל אם לכלכתי את הדאטה, אם יצרתי נוזקה לפגוע בדאטה שאתה תשתמש בה כאלגוריתם, לא משנה התוצר שיהיה לך, האלגוריתם ישתמש בדאטה מלוכלך ויפגע בו. הדבר השני הוא לפגוע באלגוריתם. ה-AI של Open AI או של טסלה הוא בעצם אלגוריתם שעובד. תוקף חכם שמסתייע ב-AI שישנה את האלגוריתם, יכול להיות שלא נדע שאנחנו מקבלים תשובות לא נכונות מאותו כוח AI שאנחנו משתמשים בו".
איך AI נותן יכולות חדשות להתגונן נגד מתקפות סייבר שלא היו קודם?
"יש הרבה פתרונות. לדוגמה, אנחנו כבר היום משתמשים בהגנה על מדינת ישראל ביכולות AI שיודעות להבחין ולקבץ המון תקיפות סייבר ולהגיד שתשע תקיפות הן בעצם תוקף אחד. אנחנו הולכים ומתפתחים עם העניין של אייג'נטים שבעצם עושים עבודה מהירה ויעילה וחוסכים כוח אדם מגן בסייבר, והמטרה שלי היא מהמניעה של האירוע, דרך הניטור והגילוי שלו והתמודדות, ועד סגירת אירוע, באמצעות אייג'נט".
האם העתיד זה באמת סוכן AI מהצד של התוקף ומהצד של המגן נלחמים אחד נגד השני ובני אדם כבר לא במשוואה?
"נכון. במערכה המודרנית מדברים על ארבעה דורות של מלחמה בדור הראשון נלחמנו ברובים ומטוסים וטנקים ואז הופיעו האנשים עם המקלדת. בדור השני התחלנו לראות את תקיפות סייבר שהשפיעו על העולם הפיזי. הדור השלישי זה הנוכחי. מלחמת הסייבר הראשונה עוד לא הגיעה, אנחנו כרגע במלחמה ההיברידית. משתמשים בטנקים ומטוסים ונשק יחד עם תקיפות סייבר. אנחנו רגע לפני מלחמת הסייבר הראשונה האמיתית שבה לא תהיה ירייה אחת. אויב עם עוצמות דיגיטליות רחבות שיתקוף מדינה ויעשה עליה מצור דיגיטלי באמצעות תקיפות סייבר מבוססות AI ויכולות אחרות ויפגע באזרח הפשוט. כל מה שצריך זה שהמדינה תרים דגל לבן".
ובני אדם במשוואה הזאת?
"אני כן רואה בני אדם מנהיגים את המערכה. אני לגמרי רואה שלב שבו נגיע ל-AI תוקף ו-AI מגן באותו קרב, כחלק מאותה מלחמת סייבר ראשונה שאני מניח שאנחנו בדרך אליה.
האם ישראל ערוכה?
"מדינת ישראל מותקפת כל יום בסייבר. החיכוך הזה גורם לכך שאנחנו צוברים מיומנות ויכולות ומכניסים כלים. גם החיילים שלנו מיומנים וטובים יותר, אנחנו ברמה טובה בהגנה בסייבר. זה עולם מאוד מורכב, אני אף פעם לא אגיד שאנחנו ערוכים וחסינים בצורה מלאה, אבל אנחנו כן מוכיחים את עצמנו ביום יום שנתקפים ונלחמים והאזרחים לא מרגישים את זה".
