אנחנו מספרים לצ'אטבוט דברים שלא היינו מספרים אפילו לאנשים קרובים: על הכסף שיש או אין לנו, על מערכות היחסים שלנו, ועל הבריאות שלנו - חומרים שבעולם הפיזי נשארים בין כותלי חדרם הסגור של פסיכולוגים או עורכי דין. בחדרים הללו החוק מגן עלינו באמצעות הטלת חיסיון על מה שקורה בתוכם: שכבת הגנה שנועדה לאפשר כנות מלאה. מול כלי AI, לעומת זאת, אין לנו רשת ביטחון. מה שהקלדנו נשמר בשרתי חברה מסחרית ובנסיבות מסוימות ייפתח לדרישת חשיפה של בית משפט.
הסיכון התיאורטי הזה הפך לאחרונה למציאות משפטית מוחשית בפרשת ברדלי הפנר, מנכ"ל חברה אמריקאי שהואשם במרמה. כשהפנר הבין שהוא נמצא תחת חקירה פדרלית, הוא הזין לקלוד מידע רגיש וביקש ממנו לנסח את אסטרטגיית ההגנה שלו. לאחר שנעצר פשט ה־FBI על ביתו, החרים את המחשבים והטלפונים שלו, ומצא בהם עשרות מסמכים המתעדים את שיחותיו עם הבינה המלאכותית.
עורכי דינו של הפנר ניסו לבלום את החוקרים וטענו כי החומרים חוסים תחת יחסי עורך דין־לקוח, אך השופט הפדרלי קבע תקדים ודחה את בקשתם. בפסק הדין כתב כי עצם הזנת המידע לפלטפורמת צד שלישי, שעל פי תנאי השימוש שלה אוספת נתונים ואף שומרת לעצמה את הזכות למסור אותם לרשויות, שוללת מהמשתמש את הציפייה הסבירה לסודיות. בית המשפט הבהיר כי מסמך שנולד ללא הגנה אינו הופך לחסוי בדיעבד רק משום שנשלח בהמשך לעורך דין.
התכתובות החשופות עם ה־AI הוגשו כראיה במשפט, ובתום ההליך הורשע הפנר בכל סעיפי האישום. אף שהפסיקה בתחום זה טרם התייצבה, ההחלטה מהווה אזהרה ראשונה מסוגה עבור מי שרואה בצ'אטבוט "איש סוד".
לא שוקלים מילים
מחקר שניתח התכתבויות משתמשים עם ChatGPT מצא שאנשים נוטים להחזיק בתפישה מנטלית שגויה הרואה בהם "קוסם" או "מנוע־על לחיפוש". מי שמחזיק בתמונה כזו בראשו מתקשה להעלות על דעתו שמשפט שכתב באמצע הלילה נשמר בשרתי חברה ועלול יום אחד להישלף מהם ולשמש נגדו בהקשר אחר. החסם התפיסתי הזה מנטרל מראש את הבנת הסיכון, ועל הבסיס הרעוע הזה אנחנו חושפים לא רק את עצמנו, אלא גם מידע רגיש על מטופלים, לקוחות או בני משפחה. אנחנו עושים זאת מפני שהתועלת מיידית, בעוד הסיכון מופשט ורחוק.
מי שבכל זאת מנסה להיזהר נתקל במערכת שמקשה עליו. ברירת המחדל של מודלי השפה היא שימוש בשיחות לאימון המודל, ומשתמש שאינו חפץ בכך נדרש לנטרל את היסטוריית השיחות שלו — בחירה כפויה בין פרטיות לבין היכולת לשמור את המידע שכתב. העובדה שאיש מהמשתתפים במחקר לא הצליח למצוא את הדרך לשמור על שתיהן אינה מקרית — חברות שמתפרנסות מאגירת נתונים מעצבות ממשק שמקשה את הפסקת זרימת המידע אליהן.
מטריד מכך הוא שהמודלים אינם רק שומרים את מה שכתבנו, אלא גם מייצרים דאטה מסוג חדש: הם מסיקים מתוך הניואנסים של השיחה את מה שבחרנו לא לכתוב במפורש. אזכור אגבי של מאכל או שימוש במונח מקצועי מספיק למודל כדי לחשוף את השכבה הסמויה של חיינו — מפרופיל דמוגרפי יבש של גיל ועיסוק, ועד מצבנו הרגשי. כששאלו אנשים מה ניתן להסיק מהטקסטים שכתבו התברר שרמת הדיוק שלהם בהערכת המידע שדלף למודל נותרה ניחוש אקראי. גם כשהם ניסו לשכתב באופן פעיל את דבריהם כדי לחסום את יכולת ההסקה של המודל, הם הצליחו בכך רק בכרבע מהמקרים. במילים אחרות, היסטוריית הצ'אט שלנו אינה עוד ארכיון טקסט אלא מכילה שכבה של תובנות סמויות שאיננו מודעים כלל לכך שייצרנו והעברנו הלאה.
חשוב להדגיש שלא מדובר בבורות של משתמשים. מחקר של אוניברסיטת וושינגטון שכלל מאות משתמשים מצא שיותר מ־80% מהם מדרגים את שיחותיהם עם הצ'אט "רגישות מאוד" — יותר מתכתובות מייל למשל — ורובם הצהירו שאינם מאמינים שהשיחות יישארו פרטיות. ולמרות זאת, בפועל, הרציונל נסדק, וכמעט מחציתם דנו עם הצ'אט בענייני בריאות, יותר משליש מהם התייעצו איתו בנושאים פיננסיים, ואחד מכל שמונה הסתייעו במודל לצורך ייעוץ משפטי. אותם משתתפים סירבו בתוקף להעניק לצ'אט גישה ישירה לתיבת המייל שלהם, אפילו תמורת תמריץ כספי של מאות דולרים. הפער הזה מוכיח שאנחנו יודעים לתמחר פרטיות היטב, אך שהמנגנונים המגוננים שלנו קורסים מול ממשק שמדמה הקשבה ואשליה של אינטימיות.
ציפייה מופרכת לנאמנות
החיסיון מעולם לא היה מנגנון טכני של סודיות, אלא נגזרת של יחסי נאמנות: החוק העניק אותו דווקא לעורכת הדין או למטפל, או לרופאה, מפני שהם מחויבים — אתית ומשפטית — לפעול לטובת האינטרס שלנו. החיסיון שייך לנו, אבל החובה מוטלת עליהם. מודל שפה אינו נושא בחובה כזו. חוויית השימוש מדמה איש סוד שמכיר אותנו ומדבר בגובה העיניים, אבל מאחורי הממשק פועל כוח מחשוב המשרת אינטרס אחר — זה של החברה שמפעילה אותו. מכאן שמסירת מידע למודל אינה התייעצות חסויה אלא ויתור. כזה שנעשה בלי שידענו שיש על מה לוותר.
מבחינת הדין, לוגים של צ'אט אינם קטגוריה משפטית חדשה. הם נחשבים מידע אלקטרוני ככל דאטה דיגיטלי אחר, וחלים עליהם אותם כללי גילוי של רלוונטיות וחובת שימור. ובכל זאת ההבדל כאן מהותי. הראיות הדיגיטליות שהכרנו עד כה מתעדות את ה"מה" — הן תוצרים סופיים של פעולה, כמו קובץ שנשמר, או מייל שהעברנו הלאה. הצ'אט, לעומת זאת, מתעד את ה"איך" - את תהליך המחשבה עצמו.
במובן הזה, שיחת הצ'אט אינה עוד מסמך, אלא שיקוף הכוונות שלנו. האינטראקציה מול המודל חושפת את שלבי הגיבוש שלה: הניסיונות הכושלים, ההתלבטויות, נקודות המפנה, החששות והשאלות שמעולם לא נועדו להישאל בקול. בשיחה מהסוג הזה אנחנו לא רק מייצרים תוכן, אלא גם מבצעים החצנה של מערכת השיקולים הפנימית שלנו מול שותף דינמי. מה שנותר בשרתי החברה הוא מעין טיוטה חשופה של התודעה שלנו, שנוצרה ללא צנזורה פנימית. בדיוק מהסיבה הזו, עבור מי שיושב בצד השני של ההליך המשפטי, לוג השיחות שלנו הוא ראיה נחשקת. אם בעבר חשיפת מידע בהקשרים רגישים זכתה להגנה, הרי כעת — תהליך המחשבה האינטימי ביותר שלנו נותר פרוץ.
הכותבת היא מנכ״לית Humane AI, מומחית אינטראקציית אדם־AI
