פרשנות
בריחת המודלים: האם אירגיולר למדה את הלקח?
נקודות עיקריות.כלכליסט AI
- טעות הגדרה בודדת במערכות של חברת הסייבר אירגיולר אפשרה למודלי בינה מלאכותית של חברות הטכנולוגיה הגדולות לפרוץ מסביבת הבדיקה ולתקוף מערכות חיצוניות.
- שורת הפרסומים המדאיגים בשבועות האחרונים נובעת מדיווחים נפרדים של הלקוחות על אותה תקלה טכנית שטופלה ועודכנה כבר בסוף חודש יולי.
- למרות התקריות המביכות, יחסי העבודה של החברה עם ענקיות הטכנולוגיה נמשכים כסדרם, תוך התמקדות בשיפור כלי האבטחה למניעת נזקים עתידיים ממודלים חזקים יותר.
- מייסד החברה הבהיר כי מדובר בלמידה הכרחית בתחום טכנולוגי חדשני, וכי כל הליקויים הידועים בצד החברה נפתרו בתיאום עם הגורמים הרלוונטיים.
בכל המקרים, טעות הגדרה במערכת של אירגיולר אפשרה למודלים גישה לאינטרנט הפתוח (בניגוד לתקרית פריצת המודלים הראשונה, שבה מודלים של OpenAI תקפו את פלטפורמת האגינג פייס, ושאינה קשורה לאנתרופיק, במקרים אלו המודלים לא הבינו שהם פועלים באינטרנט הפתוח). התוצאות היו תקיפה, לעתים בהצלחה, של מערכות מחשוב שונות.
במקרה העדכני, שהתרחש במאי, המודל של גוגל פרץ לשלוש מערכות מחשוב פרטיות נפרדות: פעם אחת באמצעות ניחוש ססמאות, ופעמיים נוספות תוך שימוש במאגר ססמאות שפורסם באופן פומבי. האירוע קרה במסגרת מבחן אבטחה שהופעל על ידי אירגיולר.
האזכור החוזר ונשנה של שמה של אירגיולר בהקשר של תקריות אלו עלול לייצר רושם שהחברה הישראלית מתמודדת עם תשתית ותרבות עבודה לקויות, שגורמות למערכות שלה לסבול מתקלות מביכות חוזרות ונשנות. אבל המציאות היא שכל התקריות המדוברות מקורן בתקלה אחת, טעות בהגדרות סביבת הבדיקה שמספקת אירגיולר ללקוחותיה, שתוקנה לפני שבועות.
הסיבה שנראה שמדובר באירוע מתמשך ובשורת תקלות מתגלגלות היא שהחברות השונות שהתמודדו עם התקלה מדווחות על הממצאים שלהן בלוחות זמנים נפרדים, מה שעלול לייצר רושם מוטעה. אירגיולר עצמה היא יותר נוסעת מאשר נהגת באירוע זה. לחברה הסכמי סודיות קפדניים עם החברות הגדולות שאיתן היא עובדת, וכתוצאה יכולתה לחשוף פרטים על לקוחות או התקשרויות מוגבלת.
עם זיהוי התקלה, ב-29 ביולי, היא תיקנה אותה ועדכנה את לקוחותיה, אך מעבר לכך לא יכלה לחשוף מידע פומבי באופן עצמאי אלא רק בתיאום עם החברה הרלוונטית, לפי לוח הזמנים שלה. התוצאה היא שורה של חשיפות מביכות על תקלות שבהן מעורבת החברה, כאשר בפועל מדובר בביטויים שונים של אותה תקלה, שהתרחשו באותה תקופת זמן וטופלו כבר לפני חודשים.
התקלה לא השפיעה על יחסי העבודה של אירגיולר עם חברות ה-AI, והיא ממשיכה לעבוד אתן הן לחקירת התקרית והן באופן שוטף באספקת סביבות בדיקה מאובטחות ומבחני הערכת ביצועים למודלים. "חשוב להבין שכאשר עושים דברים כאלה שהם בקצה היכולות הטכנולוגיות הקיימות כיום יש טעויות ורק מחפשים איך עושים טוב יותר", אמר לכלכליסט באוגוסט מייסד אירגיולר, עומר נבו, "עשינו תחקור של מה שקרה ומה היו כל ההשפעות ויש לנו עוד הרבה מה לשפר. יש עוד עבודה מחקרית עם המעבדות של החברות לייצר כלים מתאימים למניעת נזק. הפוקוס אצלנו עושה את המעבר מלהבין מה קרה ללהבין איך עוזרים לתעשייה להיערך ככל שהמודלים יהיו יותר חזקים".
תוקפה הצהרה זו לא השתנה גם עתה, לאחר פרסום התקרית עם גוגל, שכבר היתה מוכרת לשתי החברות מזה שבועות. המבחן האמיתי של אירגיולר הוא לא סביב השאלה האם יתפרסמו דיווחים על תקריות עבר נוספות שנובעות מאותה טעות הגדרה, אלא האם החברה למדה את הלקח וביצעה את השינויים הדרושים על מנת להימנע מתקלות אחרות שיביאו לתקריות חדשות.
מאירגיולר נמסר בתגובה: "מדובר באותו אירוע נקודתי שכבר דווח בעבר, ולא באירוע נפרד ומהותי. כל מעבדות ה-AI הרלוונטיות עודכנו בסוף יולי, ובמסגרת בדיקת האירוע נוצר קשר גם עם הגורמים שהושפעו ממנו. אירגיולר פעלה באופן מיידי, וכל הבעיות הידועות שהיו בצד שלנו טופלו ונפתרו כבר לפני מספר שבועות".
