סוכן כאוס בארגון: כשה-AI הופך מהבטחה טכנולוגית לסיוט אבטחת המידע
הם אמורים לייעל הכל, אבל מספיק סוכן AI אחד שיצא משליטה בשביל למחוק דאטה של חברה שלמה במילי-שנייה. ביקרנו במרכז הפיתוח הישראלי של ענקית אבטחת המידע וה-AI רובריק, כדי להבין איך בונים חוסן דיגיטלי כשה"עובד" הבא שלכם עשוי להיות סוכן
תארו לעצמכם מפתח שמנסה לפתור איטיות במסד הנתונים. הוא פונה לסוכן ה-AI לעזרה, והסוכן מחליט שהפתרון האופטימלי הוא פשוט למחוק את כל המידע. הגיוני, לא? אם אין נתונים, אין בעיית מהירות. רק שעכשיו גם אין מוצר. זה לא תרחיש עתידני - זו דוגמה אמיתית שקרתה בפועל.
ברוכים הבאים לעידן החדש של סיכוני סייבר, שבו האיום כבר לא מגיע רק מהאקרים בחדר חשוך, אלא מהצי החדש של העובדים הדיגיטליים שהכנסתם לארגון. חברות ממהרות לאמץ סוכנים חכמים שיכולים לבצע משימות באופן עצמאי, אבל שוכחות שאלה לא בני אדם עם שיקול דעת - אלו אלגוריתמים שלפעמים מפרשים הוראות בצורה "יצירתית" מדי או באופן לגמרי לא נכון.
חברת אבטחת המידע וה-AI רובריק, המחזיקה במרכז פיתוח בתל אביב, ממקדת את הפעילות שלה בחוסן דיגיטלי והתאוששות מהירה מאסונות. בעידן שבו נתונים הם הנכס הכי חשוב של חברות והתקפות סייבר הופכות לשגרה יומיומית, היכולת לחזור במהירות לשגרה הפכה להיות קריטית.
הפילוסופיה ישראלית למהדרין: במקום להתמקד רק בחומות מגן, הם בונים יכולת התאוששות מהירה. הנחת המוצא היא שכל ארגון ייפרץ בסופו של דבר. השאלה היחידה היא כמה מהר הארגון יוכל לחזור לפעילות תקינה אחרי שזה יקרה.
הטכנולוגיה, שפותחה גם במרכז הפיתוח בישראל, מאפשרת לארגונים לעקוב אחרי כל פעולה שמתבצעת במערכת - לא משנה אם זה בן אדם או סוכן שעושה אותה. כשמשהו חריג קורה, המערכת יודעת להתריע ולהציע פתרון מיידי: לחזור אחורה לנקודה שלפני הנזק. בדיוק כמו כפתור ה-Undo במסמך Word - רק שהוא חל על כל סביבת הנתונים הארגונית, ויכול להציל את הארגון שלך מסכנות לפעילות העסקית ומפגיעה במוניטין בשנייה אחת.
מה שהופך את סוכני ה-AI למסוכנים במיוחד זה שהם לא פועלים מתוך כוונת זדון. כולנו חווינו מקרים שבהם ChatGPT המציא עובדות או נתן תשובות מופרכות. עכשיו תנו לאותו טיפוס של טכנולוגיה גישה למחוק קבצים, לשנות הרשאות, או להעביר כסף. זה מתכון לאסון.
האתגר הוא שחברות רוצות את היתרונות של אוטומציה מבוססת AI, כמו יעילות, זמינות 24/7, עיבוד מהיר של משימות - אבל לא תמיד מבינות את המחיר. סוכן שמקבל הרשאות גבוהות יכול לגרום נזק עצום בטעות, ולא תמיד קל לדעת למה בדיוק הוא ביצע את הפעולות האלה.
הפתרון של רובריק נשען על עיקרון פשוט: אם כל פעולה מתועדת ונשמרת, אפשר תמיד לחזור אחורה. המערכת בנויה על ארכיטקטורת זירו טראסט, שאומרת שאף אחד כולל המערכת עצמה, לא יכול למחוק את המידע המגובה באופן סופי.
מרכז הפיתוח של רובריק בישראל ממשיך לתרום לפלטפורמת האבטחה וה-AI הגלובלית של החברה מתוך המשרדים בתל אביב. מרבית העובדים נותרו בחברה גם לאחר רכישת Laminar על ידי רובריק בשנת 2023, והצוות המקומי מהווה מרכיב מרכזי בחדשנות של החברה. בעולם שבו הגבול בין עובדים אנושיים לעובדים דיגיטליים הולך ומיטשטש במהירות, נראה שהישראלים יודעים כיצד לבנות את המערכות שיצילו חברות מה-agent הבא שיחליט לחשוב קצת יותר מדי באופן עצמאי.
