מי ישמור על הסודות שלנו כשחברות ה-AI יקרסו?
מה יקרה לכל הסודות שסיפרנו ל־ChatGPT אם החברה שמאחוריו תיקלע לפשיטת רגל? ומה יקרה לתוכן השיחות של ילדינו עם צ'אטבוטים, למידע רפואי, לסודות מסחריים ולמסמכים משפטיים שהפקדנו בידי מערכות בינה מלאכותית? השאלות הללו כבר אינן תיאורטיות.
לאחרונה הגישה חברת Character.AI, המפעילה צ'אטבוטים המדמים חברים ובני שיחה, בקשה להגנה מפני נושים בארה”ב. בעקבותיה פנו תובעים כלליים מ־40 מדינות לביהמ"ש בדרישה להגן על המידע האישי של משתמשים, ובהם קטינים. החשש ברור: במסגרת מכירת נכסי החברה, גם שיחות אינטימיות של ילדים עלולות לעבור לידיים אחרות. במקביל, שמונה מדינות בארה”ב הגישו תביעות נגד OpenAI בטענות הנוגעות לבטיחות ילדים. במקביל, בשוקי האשראי נרשמה עלייה חדה במחיר הביטוח מפני חדלות פירעון של חברות טכנולוגיה הקשורות לתעשיית הבינה המלאכותית. אין פירוש הדבר ש־OpenAI עומדת לקרוס. אבל האירועים ממחישים שקריסה של חברת AI אינה תרחיש דמיוני.
המקרה של חברת הבדיקות הגנטיות 23andMe גם ממחיש את הסכנה. לאחר שהחברה פשטה רגל ב־2025 נמכרו נכסיה, ובהם מאגרי מידע גנטי רגיש של מיליוני לקוחות, תמורת 305 מיליון דולר. רק בעקבות התערבות רגולטורית הוטלו על הרוכשת התחייבויות להגנת הפרטיות. אם מידע גנטי יכול לעבור ידיים במסגרת פשיטת רגל, מה ימנע תרחיש דומה שבו מיליוני שיחות אינטימיות עם בינה מלאכותית יהפכו לנכס הנמכר למרבה במחיר?
ב־2018 פרסמתי מחקר על תופעת "גדול מכדי ליפול 2.0", שבו טענתי כי קריסת ספקי שירותים דיגיטליים מרכזיים עלולה לגרום נזקים מערכתיים בדומה לקריסת בנקים. הבינה המלאכותית יוצרת כעת דור שלישי ומטריד של הסיכון הזה. בניגוד לרשתות חברתיות, שבהן משתמשים מפרסמים מידע המיועד לעיתים לאחרים, עם צ'אטבוטים אנחנו מנהלים שיחות שאנחנו מאמינים שהן פרטיות. אנשים מתייעצים על זוגיות, חרדות, בריאות, כספים וקשיים. ילדים מספרים להם דברים שאינם מעזים לספר להוריהם. כאשר חברה כזו קורסת, המידע אינו נעלם בהכרח. הוא עשוי להפוך לנכס במסגרת הליכי חדלות פירעון, להימכר, לעבור לבעלים חדשים או לשמש לאימון מערכות נוספות, וזו אינה רק בעיית פרטיות.
פרופ' ניצן גסלביץ' פקין
(צילום: סתיו גסלביץ')
בעולם שבו ארה”ב וסין מתחרות על ההובלה בבינה המלאכותית, מאגרי המידע של חברות AI הם גם נכסים אסטרטגיים. חברה אמריקאית גדולה עשויה להחזיק לא רק בשיחות אישיות, אלא גם בסודות מסחריים, תוכניות עסקיות, קוד, מידע משפטי חסוי ותובנות על התנהגותם של מיליונים. מה יקרה אם מידע כזה יגיע לרוכש זר, לחברה בעלת קשרים למדינה יריבה או לגורמים שישתמשו בו לצורכי מודיעין, פיתוח טכנולוגי או השפעה על הציבור? גם בלי מתקפת סייבר, עצם העברת הבעלות על מאגרי מידע עלולה ליצור סיכון לביטחון הלאומי. מידע אישי יכול לשמש לסחיטה, למניפולציה ולהפצת מסרים המותאמים לחולשותיהם של משתמשים. מידע עסקי יכול להעניק יתרון תחרותי וטכנולוגי עצום. לישראל, שבה רבים מאמצים במהירות מערכות AI בינלאומיות ומפקידים בהן מידע רגיש, יש סיבה מיוחדת להתייחס לסיכונים הללו ברצינות.
מאז המשבר הפיננסי של 2008 מחויבים מוסדות פיננסיים גדולים הפועלים בארה"ב להכין תוכניות להתמודדות עם קריסה מסודרת, המכונות "צוואות חיות". אולי הגיע הזמן לדרוש מחברות בינה מלאכותית גדולות להכין גם תוכניות שיקבעו מראש מה יקרה למידע של המשתמשים במקרה של חדלות פירעון, מכירה או פירוק. תוכנית כזו צריכה לכלול הגבלות על מכירת מידע רגיש, הגנות על שיחות של קטינים, אפשרויות למחיקת מידע ופיקוח על העברת מאגרים לרוכשים זרים. גם דירקטוריונים צריכים להתייחס לקריסה אפשרית ולגורל המידע כחלק מניהול הסיכונים שלהם.
הלקח מהמשבר הפיננסי פשוט: לא מחכים לקריסה כדי להחליט כיצד להתמודד איתה. זו כבר אינה רק שאלה של טכנולוגיה או פרטיות אלא שאלה של אחריות תאגידית, ביטחון לאומי והגנה על הציבור בעידן הדיגיטלי.
פרופ' ניצן גסלביץ' פקין, הפקולטה למשפטים, אוניברסיטת חיפה וסגנית ראשת מרכז הסייבר
