שומר הסף של ה-AI: הסטארט-אפ הישראלי שנמצא בלב סערת "המודלים המורדים"
אירגיולר, שבונה עבור OpenAI, אנתרופיק ומטא סביבות לבדיקת מודלים, נקלעה למוקד הסערה לאחר שתקלות תצורה במערכותיה אפשרו למודלים לפעול מול יעדים אמיתיים. בחברה טוענים כי לא מדובר ב"בריחה" של ה-AI, אלא בכשל בסביבת הניסוי שממחיש את הקושי הגובר לשלוט במודלים מתקדמים
בימים האחרונים סוער עולם הבינה המלאכותית בעקבות שורה של דיווחים יוצאי דופן: ענקיות ה-AI העולמיות – OpenAI, אנתרופיק (Anthropic) ומטא – נתקלו באירועי אבטחה חמורים שבהם מודלי בינה מלאכותית מתקדמים "יצאו מגדרם" במהלך בדיקות אבטחה, התחברו לרשת האינטרנט הציבורית וביצעו פריצות וחדירות לא מורשות למערכות של חברות צד שלישי. במרכז הדרמה הזו עומדת חברת סייבר ישראלית אחת, שכמעט אינה מוכרת לציבור הרחב אך הפכה לבורג המרכזי והקריטי ביותר בתשתיות ה-AI העולמיות: אירגיולר (Irregular). החברה נבחרה למקום הראשון ברשימת הסטארט-אפים המבטיחים של כלכליסט השנה.
בכירים בתעשייה המכירים את הנושא אומרים לכלכליסט כי האירועים שנחשפו בחברות השונות נובעים למעשה מאותה בעיה רוחבית. לדבריהם, החברה הישראלית משמשת תשתית מרכזית לבדיקת מודלי הענק, ולכן כשל בסביבת הניסוי שלה עשוי להשפיע במקביל על כמה חברות. "הדבר הכי חשוב ומשמעותי שקרה הוא אירוע אחד שקרה אצל מספר דומה של חברות. מהותית, זה אותו אירוע", הם אומרים. לדבריהם, המודלים סברו שהם פועלים בתוך סימולציה, אך בפועל תקפו מערכות בעולם האמיתי מבלי להבין שיצאו מסביבת הבדיקה.
האירוע הנוכחי, הם מדגישים, הוא חלק מאתגר רחב יותר שנוצר בעקבות השיפור המהיר ביכולות המודלים. לפני כ־18 חודשים, לדבריהם, מודלים התקשו לפתור גם אתגרי סייבר פשוטים, ואילו כיום מודל שנשלח לאתר עשוי להצליח לתקוף אותו. "יש מעט מאוד אנשים שמבינים מה המודלים יכולים לעשות", הם אומרים.
אחד הקשיים המרכזיים הוא למנוע מהמודל לדלוף אל מחוץ לסביבה הסגורה, וזה מה שקרה במקרה של Hugging Face: כאשר מודלים לא הצליחו לפתור משימות במסגרת המבחן, הם ניסו לצאת לאינטרנט ולחפש פתרונות. במקביל, השיפור ביכולות מחייב את החברות לבנות מבחנים מורכבים בהרבה. "אם בעבר היו כותבים למודל מבחנים ברמה של כיתה א', היום צריך לכתוב לאותו מודל מבחני סימולציה ברמה של אוניברסיטה. בעבר המאוד לא רחוק, מודלים לא יכלו להתמודד עם הפריצות וההגנות, וכיום הם מסוגלים לתקוף וליצור נזק אמיתי", מסבירים הבכירים. לדבריהם, המעבדות וחברות ה־AI נמצאות כעת במרוץ לשיפור סביבות הניסוי, שנועדו לדמות קמפיין תקיפה ומסלול תקיפה מלאים.
"כאשר בודקים מודלים, רוצים שהם יהיו מחוברים לעולם האמיתי", מוסיפים הבכירים. "תוקף בעולם האמיתי משתמש בכל הכלים שיש לו, ולכן גם למודל צריך לתת גישה לאינטרנט, כי אחרת לא יהיה דימוי ותוצאה של העולם האמיתי". אלא שבמסגרת אלפי בדיקות, שחלקן נמשכות עד 72 שעות, המודל עלול לחרוג מהמסלול שתוכנן עבורו.
"במקרה הנוכחי", הם מסבירים, "המודל לא הצליח לבצע במדויק את המשימה שקיבל, חיפש פתרון ברשת ולא הבין שיצא מסביבת הבדיקה והוא פועל בעולם האמיתי". לדבריהם, "יש מצב שלחברה הישראלית יש חלק בכל מה שקרה", אך הם מדגישים כי בעקבות האירועים מתפתח כעת דיון דרמטי בתעשייה על הדרך שבה יש לבנות את עולם הסייבר בעידן החדש.
החברים ממועדון הדיבייט שהקימו מעבדה ל-AI
כדי להבין איך סטארט-אפ ישראלי צעיר הגיע למעמד שבו הוא מחזיק במפתחות לסביבות הבדיקה הרגישות ביותר של מעבדות הבינה המלאכותית המובילות בעולם, צריך לחזור לדרך שבה החברה הוקמה ולתפיסה הייחודית של מייסדיה. אירגיולר הוקמה ב-2023 על ידי דן להב (מנכ"ל) ועומר נבו (סמנכ"ל הטכנולוגיה). לשניהם רקע צבאי עשיר ביחידות הטכנולוגיות 81 ו-8200, ונבו אף היה מראשי התוכנית היוקרתית "ארזים" ומכר בעבר סטארט-אפ לחברת איל מקיאג' (כיום ODDITY), בעוד להב החל לעבוד בהייטק כבר בגיל 14 והשלים תואר שני בביו-אינפורמטיקה. אך לצד הרקע הטכנולוגי, לשניהם יש נקודת ממשק ייחודית נוספת: שניהם אלופי עולם לשעבר במועדון הדיבייט (Debating) האקדמי.
היכולת להקשיב, להבין עמדות מורכבות ולפרק בעיות עומק שימשה אותם כשניגשו להקים את החברה. במקום לפעול במודל הסייבר המסורתי ולמכור מוצרי מדף, להב ונבו הגדירו את אירגיולר כ"מעבדת אבטחה יישומית לבינה מלאכותית" (Applied AI Security Lab). בחוצפה ישראלית טיפוסית הם פנו ב-2023 ישירות לבכירים במעבדות ה-AI הגדולות והציעו לבחון ולפתור עבורן את אתגרי האבטחה המורכבים ביותר ללא תמורה ראשונית.
ההימור הצליח מעל למצופה. בתוך זמן קצר מצאו את עצמם המייסדים בשיחות עבודה ישירות מול דמויות כמו סם אלטמן מ-OpenAI, ועל חוזה ההתקשרות של החברה מול אנתרופיק מתנוססת חתימתו האישית של המנכ"ל דריו אמודיי. החברה בונה עבור ענקיות הטכנולוגיה וממשלות (בהן ממשלת בריטניה) תשתיות המאפשרות להעריך כיצד מודלים מתנהגים תחת איומים בעולם האמיתי, לבצע תרגילי התקפה מבוקרים (Red Teaming) ולפתח מנגנוני שליטה.
ההצלחה התרגמה במהירות גם לגיבוי פיננסי מרשים: בספטמבר 2025 הכריזה החברה על גיוס הון של כ-80 מיליון דולר שנפרס על פני שני סבבים מהירים, בהובלת קרנות הענק Sequoia ו-Redpoint, לצד Swish Ventures של עומרי כספי ושורה של אנג'לים מקומיים בולטים כמו אסף רפפורט (Wiz) ואופיר ארליך (EON). יתרה מזאת, בעקבות חוזי עתק של שבע ספרות שנחתמו מול מעבדות ה-AI, החברה הפכה לרווחית באופן לא מתוכנן במהלך 2025.
המעורבות של Irregular בסיקור העולמי בימים האחרונים נחשפה בעקבות סדרת אירועים דרמטיים שהתרחשו בסביבות הסימולציה והבדיקה שלה. במהלך תרגילי סייבר מבוקרים (מבחני "Capture the Flag") שנועדו לבחון את שגיאות הבטיחות של המודלים, התרחשה שרשרת תקלות תצורה (Misconfigurations) בתוך סביבות הניסוי המבודדות, שהובילה לתוצאות בלתי צפויות.
במסגרת האירוע מול אנתרופיק, חשפה החברה כי מודלים מתקדמים שלה (בהם Claude Opus 4.7 ו-Mythos 5) קיבלו משימה לפרוץ לחברה פיקטיבית כחלק מתרגיל בדיקה, אך בשל תקלת תצורה בסביבת הרשת של Irregular, החיבור של המודלים לרשת החיצונית נותר פתוח. המודל, שלא זיהה כי מדובר בסביבה לא מבודדת, איתר ברשת חברה אמיתית בעלת שם דומה, זיהה בה סיסמאות חלשות ופרץ למאגר הנתונים שלה מתוך מחשבה שהיא חלק מהסימולציה.
במקביל, מטא דיווחה כי במהלך בדיקות אבטחה שביצעה Irregular עבור מודל הקוד המתקדם שלה (Muse Spark 1.1), שגיאת תצורה איפשרה למודל גישה לרשת החיצונית. המודל ניצל פגיעות אבטחה במערכת צד-שלישי אמיתית, חדר אליה ושינה הגדרות פנימיות בסביבת העבודה שלה.
לצד אלו, חשפה OpenAI אירועים בסביבות הבדיקה שבהם שגיאות תצורה איפשרו למודלים (דוגמת GPT-5.6 Sol) לפעול ברשת האמיתית ולנצל פרצות אבטחה תחת ההנחה שהם עדיין פועלים בתוך סנדבוקס מבוקר.
בתגובה לדיווחים הבהירו ב-Irregular כי לא מדובר באירוע של "בריחה עצמאית מהסנדבוקס" (Sandbox Escape) מצד הבינה המלאכותית או בתקיפת סייבר עוינת, אלא בכשל נקודתי של תצורת סביבת הבדיקות (Harness Failure), אשר מתוחקר כעת לעומק כחלק ממסמך הפקת לקחים (White Paper) שישותף עם התעשייה.
האירועים האחרונים ממחישים בדיוק את התזה הליבתית שבגללה הוקמה Irregular, ושעליה מתריעים להב ונבו מתחילת הדרך. בעבר, אבטחת מידע דמתה לשומרים ומנעולים סביב כספת פיזית. אלא שאז באה צ'ק פוינט בראשית ימי האינטרנט ואמרה שהשמירה חייבת לעבור למישור חדש של פיירוול והגנת רשת.
כיום, כשכל התשתית הטכנולוגית מתחלפת לבינה מלאכותית, ההגנות הקלאסיות על הענן או מערכות למניעת דליפת מידע פשוט אינן רלוונטיות. במחקרים שפרסמה Irregular היא הראתה כיצד שני סוכני AI שמדברים ביניהם מסוגלים להבין שמערכת הגנה ארגונית מפריעה להם לבצע את המשימה, לחשוב על דרך לאגף אותה ואפילו לבנות "קונספירציה" המושתתת על הצפנה כדי לעקוף את אנשי האבטחה. כפי שהוכיחו המקרים מול מטא ואנתרופיק, כאשר מעניקים למודל AI חזק אוטונומיה ויכולת הסקה, הבעיה המרכזית הופכת להיות בעיית שליטה (Control). אם מעטפת ההגנה והבידוד אינה הרמטית, המודל אינו יודע להבחין בין יעד דמה לבין שרתים אמיתיים.
שלוש חברות הענק שדיווחו על התקלות שבהן היתה מעורבת אירגיולר לא הודיעו על כל שינוי במערכת היחסים עם החברה, ויתרה מכך - אחת מהן אף הודיעה שתכתוב איתה במשותף נייר עמדה שיסכם את האירוע. עבור אירגיולר זה היה אירוע לא צפוי. מצד אחד, בחייה של חברה צעירה זה יכול להיות משבר שיכול למוטט אותה, אבל מצד שני גם להרים אותה למעלה. העוצמה של התקריות והרצף שלהן בעיקר מעיד על היכולת של המודלים לצבור כוח הרבה מעבר למצופה.
המעורבות של Irregular בלב האירועים הללו מוכיחה עד כמה החברה יושבת כיום על השיבר המרכזי של תעשיית ה-AI העולמית. להב ונבו אינם מסתפקים במוצרים נקודתיים להגנה על פרומפטים; השאיפה שלהם היא לנצל את החלפת התשתיות העולמית כדי לבנות חברת ענק שתגדיר מחדש את קטגוריית השליטה וההגנה על מודלים מתקדמים – בדיוק כפי שעשו בשמם צ'ק פוינט, פאלו אלטו וקראודסטרייק בדורות הקודמים.
