ממציאים מחדש את הדפדפן: מהפכת ה- AI מגיעה לחיפוש באינטרנט, ויש גם סכנות
דפדפנים חכמים מבוססי בינה מלאכותית מספקים חוויית גלישה מתקדמת ומותאמת אישית, אבל טומנים בחובם גם סיכוני אבטחה חמורים. איך זה קורה ומה כדאי לעשות כדי לשמור על חווית גלישה בטוחה
האופן שבו אנחנו מבצעים חיפוש באינטרנט הולך ומשתנה דרמטית בחודשים האחרונים. דפדפנים חכמים מבוססי בינה מלאכותית מספקים חוויית גלישה שמאפשרת למשתמשים לבצע חיפושים ופעולות מורכבות באינטרנט על ידי מודלי שפה גדולים (LLMs). בין היתר, הם יכולים לסכם תכנים, לבצע חיפושים חכמים, למלא טפסים אוטומטית ואף לנהל אינטראקציה עם אתרים בשפה טבעית. היכולת הזו מייצרת הזדמנות למשתמשים פרטיים וארגונים לשפר פרודוקטיביות ולייעל תהליכים שמצריכים בעבר זמן ומאמץ ניכר.
כיום ישנם שני סוגים של דפדפנים מבוססי AI: דפדפנים קיימים כמו כרום של גוגל או ספארי של אפל שהטמיעו בהם יכולות בינה מלאכותית, או דפדפנים חדשים לגמרי שיצאו לשוק ונבנו מלכתחילה על בינה מלאכותית ומודלי שפה גדולים כמו פרופלקסיטי (Comet) ואופרה. כך או כך, הדפדפנים הללו, המהווים כלי מרכזי בחיי היומיום והעבודה של כל משתמש באינטרנט, עוברים מהפכה אמיתית.
לצד היתרונות של שימוש בדפדפני AI, צצים גם סיכונים חדשים שמחייבים זהירות והגדרת מדיניות אבטחת מידע. בניגוד לדפדפני אינטרנט מסורתיים, ל-Comet לדוגמא יש סוכן בינה מלאכותית מובנה. סוכן זה יכול לסרוק את הדף שאתם צופים בו, לסכם את תוכנו או לבצע משימות עבורכם. הבעיה היא שסוכן הבינה המלאכותית של Comet וחברות אחרות בנוי על אותה טכנולוגיה כמו צ'אטבוטים המבוססים על בינה מלאכותית, בדומה ל-ChatGPT. היכולות הללו מביאות עימן סיכונים חדשים, שכן סוכן AI שמופעל בצורה לא מבוקרת עלול לבצע פעולות לא רצויות או אף זדוניות, מבלי שהמשתמש יבחין בכך.
הסכנות בשימוש בסוכני AI אינן תיאורטיות בלבד. גישה מלאה של סוכן לישות האינטרנטית של המשתמש, כלומר לכל המידע והפעולות שהוא יכול לבצע, עלולה להוות נקודת תורפה משמעותית. המשתמשים מסתמכים על הסוכן לבצע משימות במהירות וביעילות, אך כל טעות או ניצול לרעה של היכולות הללו עלול להוביל לחשיפה למידע רגיש, טעויות קריטיות, פישינג, התקפות זדוניות, או שימוש לרעה במערכות שונות באופן שלא ניתן לזהות אותו בקלות.
מחקר שבוצע על ידי צוות המחקר של לאסו מראה כיצד סוכני AI יכולים למזג זהויות ממערכות שונות לנקודת כשל אחת, מה שמאפשר לתוקפים פוטנציאליים לנצל את היכולת של הסוכן לבצע פעולות מרובות בשמך. במקרים כאלה, תוקף יכול להחדיר פקודות זדוניות לאתרים או למערכות, והסוכן מבצע אותן מבלי לזהות את הכוונה הזדונית. המחקר מדגיש את הצורך בפיקוח הדוק, מנגנוני אימות חזקים והגנה על המידע האישי כדי למנוע מצב שבו סוכן AI הופך לנקודת פריצה משמעותית.
דפדפני AI וסוכני AI מציעים פוטנציאל עצום לשיפור חוויית הגלישה והפרודוקטיביות, אך השימוש בהם מצריך זהירות מרבית. חשוב להגדיר גבולות ברורים, לעדכן באופן שוטף את המערכות, ולוודא שפעולות המבוצעות על ידי הסוכן נבדקות ומפוקחות על ידי המשתמש. הצורך בהבנה מעמיקה של הסיכונים, והטמעת אמצעים מתקדמים להגנה על זהויות ומידע ברמה אישית וארגונית הן קריטיות לגלישה בטוחה ומותאמת לעידן ה-AI.
אלעד שולמן הוא מייסד שותף ומנכ"ל Security Lasso
