מי שמסתובב בעולם הטכנולוגי, כאן או בעמק הסיליקון, נתקל לאחרונה בגל החדש של העוזרים האישיים מבוססי הבינה המלאכותית. Muse, Grok Bot, Instinct ו־Catch הם כולם דוגמאות לעוזרים שכאלה. צילומי מסך שמתעדים כיצד הם מזמינים טיסות, מתאמים פגישות ואפילו זוכרים ימי נישואין ושולחים פרחים בהפתעה ממלאים את הפיד שלנו. ההבטחה, כפי שניסחה אותה אחת החברות, היא ל"שירות אישי שמיועד לטיפול במשימות הדורשות מעורבות אנושית ישירה". אחד המשתמשים בהם תיאר את החוויה כך: "אשתי ואני כבר לא מדברים אחד עם השנייה. במקום זה, סוכני ה־AI שלנו מתקשרים בשמנו. זה העתיד".
רציתי לראות בעצמי במה מדובר אבל רגע לפני שנתתי ל־Instinct את המפתחות לנכסים הדיגיטליים שלי, עשיתי משהו מעט טרחני — קראתי את תנאי השימוש.
מה שהופיע בהם נראה פחות כמו הסכם שירות ויותר כמו ייפוי כוח כללי. בדרך כלל ממליצים לתת סמכות כזו רק למי שסומכים עליו, ולהגדיר היטב מה מותר לו לעשות, אלא שתנאי השימוש של Instinct מתירים לסוכן לבצע כל פעולה שלדעתו תואמת את בקשתכם, כולל התקשרות בשמכם ב"הסכמים, התחייבויות או עסקאות". בפשטות: הסוכן יכול ליצור בשמכם התחייבויות משפטיות שמחייבות אתכם כאילו ביצעתם אותן בעצמכם.
במקביל, החברה מזהירה שהסוכן עלול לטעות, שחלק מפעולותיו אינן הפיכות ושעל המשתמש לעקוב אחריו באופן שוטף. אבל באותו סעיף ממש, החברה מזהירה שגם יומן הפעולות שהסוכן יציג בפניכם עלול להיות לא מדויק. ובמילים מדויקות: "אתה אחראי לתשומות, לפעולות ולשימוש בכל פלט, לרבות כל ההשלכות, בין שפיננסיות, חוזיות, משפטיות, מוניטין או אחרות, הנובעות מכל פעולה או שימוש שלך בכל פלט". אם החברה תידרש לשאת בתביעה, נזק או הוצאה בגלל פעולה שהסוכן ביצע בשמכם, אתם מתחייבים לשפות אותה — כולל על שכר טרחת עורכי הדין שלה.
המידע שלכם - שלו
כדי לבצע פעולות הסוכן צריך דאטה, והרבה ממנו. משום כך הוא רוצה לקבל מכם הרשאות לקרוא את הודעות הווטסאפ שלכם, את המיילים, את דפוסי השימוש בדפדפן (כולל ההיסטוריה שלו), וכמובן את הסיסמאות שלכם ואת פרטי כרטיסי האשראי. בקטגוריית "מידע שאנחנו אוספים אוטומטית" נכתב במפורש שהסוכן רשאי גם לאסוף מידע מהמכשיר שעליו הוא רץ, כולל מידע המופיע על המסך. במילים אחרות, בזמן שהוא מזמין לכם טיסה הוא עלול להיחשף גם ליתרת העו"ש שלכם ולהשקעות הכספיות, להודעת ווטסאפ פרטית שקפצה על המסך או לסיסמה שהקלדתם לשירות אחר.
בתוך זרם המידע מסתתרים גם חייהם של אנשים אחרים. כשאנחנו מאשרים את תנאי השימוש אנחנו מצהירים שיש לנו אישור למסור גם את המידע שלהם. מה למשל? כשאנחנו מספקים גישה ליומן הפגישות שלנו, זכרו שהוא כולל כתובות ומידע מזהה של האנשים שאיתם אנחנו קובעים; או כשהוא סורק מסמכים וטיוטות בדרייב שלנו, ונחשף להתכתבויות יומיומיות בווטסאפ, כל המידע הזה הופך לפרופיל עומק מקיף שמספר סיפור אינטימי על החיים שלכם ושל הסובבים אתכם. מטבע הדברים, הסיפור הזה גדול ועשיר בפרטים הרבה יותר מסך חלקיו.
ומה אם התחרטתם? מתברר שניתוק השירות לא מוחק את המידע שכבר אונדקס. תנאי השימוש קובעים שהחברה עדיין רשאית להשתמש בו לצורך שיפור השירות ואימון מודלים.
בזמן האחרון משתמשים מדווחים על תקלות אבטחת מידע חמורות בשירות. משתמשת שהתנתקה ממנו גילתה שהסוכן המשיך לנסח מיילים בשמה; משתמש אחר קיבל מסמך פיננסי רגיש של אדם זר ורק לאחר שהסוכן ניסה לשכנע אותו שמדובר בפרטים שלו עצמו, הוא נכנע וסיפק את התשובה הבאה: "הגעה של תמונה לשיחה הלא נכונה היא תקלה רצינית. תרצה שאדווח על כך לצוות?". למשתמש אחר Instinct החליט לייצר דף אינטרנט ציבורי, הנגיש לכל, עם כל המידע האישי שניתן לו בהתכתבות הפרטית.
אם למרות כל מה שקראתם אתם עדיין רוצים להתנסות בעבודה עם עוזר אישי כזה, אני ממליצה להשתמש בחשבון מייל נפרד וייעודי, לתת לסוכן הרשאות מינימליות, לא לחבר אותו לכל סביבת המידע שלכם, ולבטל שימוש בנתונים לאימון.
השלם גדול מסך חלקיו
נוחות היא סם ממכר וכבר התרגלנו לשלם במטבע הפרטיות, אבל הסוכנים משנים את המשוואה. בעולם שמתנהל ברובו באמצעים דיגיטליים, הזהות שלנו היא מערכת של הרשאות, אמצעי אימות, קשרים והיסטוריה. סוכן שמקבל גישה לכל אלה מקבל לידיו גם את התשתית שבאמצעותה העולם הדיגיטלי מאמת את זהותנו ומאפשר לנו לפעול בעולם. אנחנו רוצים את העוזר האישי כדי לצמצם את החיכוך עם הסיזיפיות של החיים אבל שוכחים שכל נקודת חיכוך כזו היא גם מנגנון הגנה — רגע שבו הפעולה חייבת לעבור דרכנו.
שלשום הציגה OpenAI את Dots, סוכנים שנועדו להישאר פעילים ולהמשיך לטפל במשימות שהופקדו בידיהם (always-on agents). ההכרזה הגיעה יום אחרי שהחברה דחתה השקה של מודל חדש בעקבות בעיות בטיחות שהתגלו בבדיקות פנימיות.
OpenAI אינה היחידה. תאגיד נוסף שהצטרף לאחרונה למרוץ הסוכנים הוא מטא. וכשחברה מסחרית מפעילה סוכן שאמור לפעול בשמנו, שאלת האינטרסים הופכת בלתי נמנעת. אצל מטא היא חדה במיוחד, כיון שהחברה שכבר מחזיקה בפרופיל מפורט של מיליארדי בני אדם, מבקשת עכשיו נתח נוסף מהחיים שלנו. מיוז (Muse), הסוכן של מטא, מעוצב כדמות פרוותית וחמודה, כמו לבובו עם עיניים עגולות, לחיים ורדרדות וידיים מושטות לצדדים. ואם הוא כה מתוק, מדוע שלא נאכיל אותו גם בפרטי כרטיס האשראי ובהרשאות לחשבונות שלנו?
אלא שכאן נשאלת שאלה פחות חמודה. מטא בנתה את עסקי הפרסום שלה על היכולת להבין מה מעניין אותנו ומה אנחנו עשויים לקנות. עכשיו היא מבקשת להיות גם מי שפועל בשמנו. כשמיוז יתמקח עבורנו על מחיר חדר במלון שמפרסם בפלטפורמות של מטא — את מי בדיוק הוא ייצג? ובתחומים שבהם מחירה של החלטה שגויה גבוה הרבה יותר — בריאות, או השקעות — את טובתו של מי הוא אמור לשרת אם הגוף שמתנהל מולו הוא לקוח של מטא?
זמן קצר אחרי השקת מיוז נחשפה בו פרצה שאיפשרה לכל אפליקציה במכשיר שעליו הוא מותקן להפנות את התקשורת של הסוכן לשרת חיצוני ולגנוב את אסימון האימות שלו — מעין מפתח דיגיטלי שמאפשר לו להזדהות ולפעול בשם המשתמש. במילים אחרות, תוקפים יכלו להשתלט על הסוכן ולהפעיל אותו בשמכם, עם כל ההרשאות שמסרתם לו. במקביל, דווח גם על כך שלעתים הסוכן ביצע פעולות על דעת עצמו, בלי שהתבקש לכך.
את כל זה אנחנו מקבלים ב"חינם", אבל ההיסטוריה הדיגיטלית כבר לימדה אותנו שכשלא משלמים בכסף, משלמים במטבע אחר. עד לאחרונה זה היה בעיקר בדאטה. כעת זו כבר הסמכות לפעול בשמנו, ולגלגל אלינו את האחריות אם משהו ישתבש.
הכותבת היא מנכ״לית Humane AI, מומחית אינטראקציית אדם־AI
