מנהל אבטחת המידע של OpenAI מודה שיש פרצות בדפדפן החדש. כך תישמרו מהן
דיינה סטאקי חושף את הסיכון המרכזי בדפדפן אטלס: תוקפים יכולים להטמין הוראות זדוניות באתרים או במיילים ולגרום לסוכן להדליף מידע אישי או לבצע פעולות לא רצויות. לדבריו, החברה משקיעה משאבים רבים בפיתוח הגנות, אך הבעיה עדיין לא נפתרה במלואה. מומחים ממליצים לדרוש אישור מפורש לכל פעולה ולהימנע מהרשאות קבועות
דיינה סטאקי, מנהל אבטחת המידע של OpenAI, התייחס בפוסט ב-X לדפדפן החדש שהוציאה השבוע החברה, אטלס, והודה שאף שהמוצר תוכנן להיות בטוח ויעיל "הוא עדיין יכול לעשות שגיאות", כמו קניית מוצר לא נכון או נקיטת פעולה בלי לברר עם המשתמש.
סטאקי המשיך וציין כי אחד הסיכונים הבולטים שעלו ואותו הם בודקים נקרא "הזרקת פרומפטים" (prompt injections), כלומר מצב שבו התוקפים מחביאים הנחיות זדוניות באתרים, מיילים או מקורות אחרים, על מנת לנסות ולהונות את הסוכן כדי שיתנהג בדרכים אחרות מכפי שהתכוון המשתמש. "המטרה של התוקפים יכולה להיות פשוטה כמו ניסיון להטות את הדעה של הסוכן בזמן קניות, או מהותית יותר כמו תוקף שמנסה לגרום לסוכן להשיג ולהדליף מידע אישי, כמו מידע אישי מהמייל", הסביר סטאקי.
לדבריו, בחברה עבדו קשה כדי לשמור על הבטיחות, אך הבעיה החדשה נותרה לא פתורה והם ממשיכים "להשקיע זמן ניכר ומשאבים כדי למצוא דרכים לוודא שסוכני ChatGPT לא יפלו להתקפות הללו".
סטאקי, שעבר ל-OpenAI בשנה שעברה מפלנטיר, פירט מספר דרכים שנקטו בחברה כדי לשפר את המודלים מול התקפות מסוג זה. אחת הדרכים היא פיתוח מערכת תגובות מהירה שנועדה לאפשר זיהוי מהיר של תקיפות וחסימתן. כמו כן, הוא הסביר כי "אנו ממשיכים להשקיע רבות באבטחה ובהגנה על הפרטיות, כולל מחקר לשיפור עמידות המודלים, פיתוח כלי ניטור אבטחה, חיזוק תשתיות אבטחה ויישום טכניקות הגנה עמוקה כדי למנוע התקפות".
סטאקי הציע למשתמשים להפעיל את מצב "ללא התחברות" (logged out mode), שבו הסוכן פועל ללא גישה לפרטי ההתחברות של המשתמש. לדבריו, מצב "מחובר" (logged in mode) מומלץ רק לאתרים מהימנים ולמשימות מוגדרות.
מנגנון נוסף להגברת הבטיחות נקרא "מצב מעקב" (Watch Mode), המופעל כאשר הסוכן מזהה שהוא עומד לפעול באתר רגיש. המצב הזה מחייב שהטאב שבו הסוכן פועל יישאר פתוח ופעיל מול המשתמש, מה שמחייב אותו לפקח על הפעילות שלו.
סטאקי סיכם ואמר כי בחברה מתכוונים בהמשך להוסיף מאפיינים נוספים ופיקוח נוסף כדי לאפשר לסוכנים "לעבוד בצורה בטוחה ומאובטחת עבור משתמשים פרטיים וארגונים".
חשוב לציין כי גם דפדפנים אחרים הכוללים מצב סוכן, כמו קומט של פרפלקסיטי, סובלים מאותן פרצות. גם הפתרונות שמציע סטאקי לא מבטיחים הגנה מוחלטת, ויש אף מי שטוענים שבשלב זה מוצרים אלה בוסריים מדי ואינם בטוחים לשימוש.
מחקר של חברת אבטחת ה-AI לאסו סקיוריטי, שמצא פרצות בכלים אלו (המחקר נערך לפני השקת אטלס), ממליץ למי שבוחר להשתמש בהם להימנע מהרשאות קבועות שנותנות לסוכן לפעול ללא אישור בכל המערכות. עוד המלצה היא לדרוש אישור מפורש לכל פעולה חוצת-מערכות - כל מעבר בין שירותים (כמו מ-Gmail ל-Slack או GitHub) צריך לקרות רק אחרי שהמשתמש אישר אותו. המחקר ממליץ גם לפקח על פעילות הסוכן ולבדוק מה הוא עומד לבצע, להימנע מהפעלת קישורים או תכנים ממקורות לא מזוהים ולא להשתמש באותו חשבון לכל המערכות המחוברות לסוכן.
