הצבא האיראני משתמש ב-ChatGPT וג'מיני לפיתוח נוזקות וניהול מבצעים צבאיים
לפי דיווח של הפייננשל טיימס, האקרים איראניים ממנפים מודלי AI מערביים כמו ChatGPT וג'מיני למתקפות פישינג, לוחמה אלקטרונית וטרגוט כטב"מים. חברות ה-AI מנסות לחסום אותם, אך איראן בונה במקביל תשתית AI עצמאית
האקרים של צבא איראן עושים שימוש במודלי AI של חברות מערביות, ובהם ChatGPT של OpenAI וג'מיני של גוגל, לפיתוח נוזקות, ביצוע מתקפות סייבר וניהול מבצעים צבאיים - כך לפי דיווח של הפייננשל טיימס, המבוסס על שיחות עם מומחי סייבר וחברות טכנולוגיה. "אנחנו רואים סימנים שהם משתמשים ב-AI לכל אורך הדרך", אמר לעיתון אנליסט הגנת סייבר בחברה גדולה. "זה בהחלט עזר להם לשפר את הפעילות שלהם".
מיקרוסופט זיהתה מינוף של AI על ידי איראן לביצוע מתקפות סייבר כבר לפני כשנתיים, ו-OpenAI דיווחה שהסירה חשבונות איראניים שניסו להשתמש ב-ChatGPT להשפיע על הבחירות בארה"ב. במהלך מבצע עם כלביא דיווחו מערך הסייבר והשב"כ כי בלמו ניסיונות של תוקפים איראניים לאסוף מידע מודיעיני על אנשי ביטחון במטרה לפגוע בהם פיזית. האקרים איראניים גם עמדו מאחורי מתקפות שנועדו לפגוע בחוסן הציבורי, כמו השתלטות על שלטים אלקטרוניים בתחנות רכבת ופרסום אזהרות מזויפות על מתקפת טילים. איחוד האמירויות דיווחה כי לצד אלפי מתקפות טילים ורחפנים מטהראן, היא מתמודדת עם למעלה מחצי מיליון מתקפות סייבר ביום.
מודלי AI מתקדמים מאפשרים לאיראן לבצע מתקפות אלו בקנה מידה רחב ובתחכום גבוה יותר. תחום אחד שבו ממנפים התוקפים את המודלים הוא מתקפות פישינג, שנועדו לשכנע קורבנות להיכנס לאתר זדוני ולהתקין רוגלה או נוזקה במכשירם. מתקפות אלו מבוססות לעתים קרובות על שיחות מתמשכות עם הקורבנות המיועדים, במטרה לבסס אמון ולשכנע אותם ללחוץ על קישור ברגע האמת - תהליך שעד כה היה כרוך במאמץ ומשאבים ניכרים. מודלי AI הופכים משימה זו לפשוטה ואוטומטית ברובה. לפי דוח שפרסמה גוגל בפברואר האחרון, זמן קצר לפני תחילת המלחמה באיראן, קבוצת ההאקרים APT42, הפועלת בתמיכת ממשלת איראן, מינפה מודלי AI ובהם ג'מיני לשיפור יכולות איסוף המידע וההנדסה החברתית שלה.
"APT42 ניצלה לרעה את ג'מיני כדי לחפש אימיילים רשמיים של ישויות מטורגטות ולאסוף מידע על שותפים עסקיים אפשריים לצורך בניית אמתלה אמינה לפנייה", דיווחה גוגל. "באמצעות מתן ביוגרפיה של המטרה לג'מיני, הקבוצה ניצלה אותו ליצירת ישות או תרחיש אמין. APT42 משתמשת בג'מיני לתרגום בין שפות מקומיות ולשיפור הבנת ביטויים בשפות זרות". לפי גוגל, השימוש של האקרים איראניים בצ'טבוטים רחב הרבה יותר מזה של קבוצות תקיפה הפועלות בשליחות קוריאה הצפונית, רוסיה או סין - הנחשבות למתוחכמות יותר.
מוקדם יותר החודש דיווחה צ'ק פוינט הישראלית כי קבוצת התקיפה Nimbus Manticore, המקושרת למשמרות המהפכה, הסתייעה ב-AI לפיתוח נוזקה שנעשה בה שימוש בזמן המלחמה. לפי דוח שפרסמה החברה, כמה תבניות בקוד הנוזק מצביעות על שימוש ב-AI בהליך הפיתוח. "פעילות הקבוצה במהלך המבצע מדגישה את יכולות ההתאמה המשופרות שלה, במיוחד באמצעות שילוב פיתוח נוזקה בסיוע AI", נכתב.
השימוש של איראן במודלי AI אינו מוגבל למתקפות סייבר. לפי ניתוח של הפייננשל טיימס, המבוסס על 300 מאמרים שהתפרסמו בחמש השנים האחרונות בכתבי עת צבאיים איראניים, טהראן ממנפת מודלי AI ללוחמה אלקטרונית, האצת תהליכי קבלת החלטות בשדה הקרב ושיפור יכולות הניווט והטרגוט של כטב"מים.
"איראן רוצה לשמור על קצב עם הצבאות המתקדמים ביותר", אמרה ד"ר ניקול גרייבסקי, מומחית לצבא איראן במכון למדע המדינה בפריז. "יש סימנים לכך שמשמרות המהפכה השתמשו ב-AI לתכנון מתקפות נגד מדינות המפרץ, ואיראן כנראה גם השתמשה ב-AI לניתוח חיזויי ולזיהוי מיקומים של כוחות אמריקאיים". משמרות המהפכה גם טענו שהשתמשו ב-AI במערכות הניווט של טילי שיוט, אך לדברי גרייבסקי לא ברור אם הצליחו לפרוס יכולות אלו בתרחישי קרב.
בכך, איראן אינה נבדלת מצבאות מערביים, ובפרט צה"ל, העושים שימוש ב-AI להעצמת יכולות לוחמים והליכי קבלת החלטות. במרץ חשף צה"ל כי הוא משלב מערכות AI בפעולות כמו תכנון משימה, זיהוי כטב"מים ושיפור דיוק התרעות השיגורים לעורף. אלו כוללות מערכות לסיוע בניווט כלי טיס של חיל האוויר, מערכת לזיהוי שיגורים ושברי יירוט, ושימוש ב-AI לביצוע הערכות מצב מערכתיות. צבא ארה"ב משתמש במודלי AI לניתוח מידע מודיעיני, תכנון וביצוע מתקפות וקבלת משוב בזמן אמת בעיצומו של קרב.
האירוניה היא שבשעה שצבאות מערביים עושים שימוש במודלי AI שפותחו על ידם או בעבורם, איראן מנצלת את המודלים שמפתחות חברות במדינות שנגדן היא נלחמת - כדי לשפר את יכולות הלחימה שלה. חברות AI מערביות מודעות לפעילות זו ופועלות נגדה, אך המאמצים דומים למשחק חתול ועכבר: בכל פעם שנסגרים חשבונות שבהם עושות קבוצות התקיפה שימוש, הן אינן מתקשות לפתוח חשבונות חדשים בתוך זמן קצר. "כשאנו מזהים פעילות מזיקה, אנו נוקטים בפעולות אכיפה, כולל סגירת חשבונות, חסימת גישה או הגבלת היכולות המנוצלות לרעה", נמסר מ-OpenAI לפייננשל טיימס. "יש לנו מנגנוני הגנה בפלטפורמה שלנו, והמודלים המתקדמים ביותר אינם זמינים לשימוש רחב". עם זאת, גם המודלים הפחות מתקדמים מציעים יכולות עצמתיות שלא היו זמינות לפני שנתיים. גוגל לא הגיבה לדיווח.
פעילות יעילה יותר של חברות ה-AI תוכל להביא לתוצאות מוגבלות בלבד, על רקע מאמצי איראן לבנות תשתית AI עצמאית. מומחים מעריכים בוודאות גבוהה שאיראן משתמשת ב-AI בדרכים שגורמים חיצוניים כמעט שלא יכולים לזהות - מכיוון שבנתה חלק ניכר מהתשתית שלה על מודלי קוד פתוח הפועלים ברשתות סגורות. "מה שאנחנו רואים זה רק קצה הקרחון", אמר אנליסט סייבר.
בשנה שעברה החלה איראן לפעול להקמת פלטפורמת AI לאומית, המסוגלת לעבוד גם כשהמדינה מנותקת מהאינטרנט - כפי שהיה המצב מתחילת המלחמה ועד הימים האחרונים. "ההשקעה ב-AI היא בעצם תוכנית מודרניזציה לאומית", אמר לפייננשל טיימס אלכס לסלי, יועץ בכיר בחברת הסייבר Recorded Future. "ההשקעה גם נועדה לסייע לאיראן להתמודד עם סנקציות כלכליות ולמתן שיבושים כתוצאה מהמלחמה". מתקפות ישראליות-אמריקאיות בתחילת אפריל פגעו באופן משמעותי במרכזי הנתונים המפעילים פלטפורמה זו, וכן במעבדות AI באוניברסיטת שריף בטהראן, שם מתבצע עיקר הפיתוח שלה. אך ספק אם הדבר ישיג יותר מעיכוב או האטה זמניים של יכולות אלו.
