ה-AI לא צריך לפרוץ לבית החולים כדי להגיע למידע הרפואי שלכם
החשש המרכזי משילוב בינה מלאכותית במערכת הבריאות הוא בדרך כלל שהטכנולוגיה תטעה: תחמיץ אבחנה, תמציא מידע או תמליץ על טיפול שגוי. אלא שבזמן שמערכות הבריאות משקיעות משאבים בבדיקת אמינות התשובות של ה-AI, מתפתח סיכון משמעותי נוסף. הבינה המלאכותית מאפשרת להגיע למידע רפואי רגיש בהיקפים ובמהירות שלא היו אפשריים בעבר, גם מבלי לפרוץ למערכת או לעקוף מנגנון אבטחה אחד.
באחד מבתי החולים בארה"ב שאנחנו עובדים איתם זיהינו מקרה שבו Microsoft Copilot ניגש בשם עובד לקובץ שהכיל יותר ממאה פרטי מידע אישי. הכלי לא ניצל חולשת אבטחה, אלא פעל באמצעות הרשאות קיימות, שהעניקו לעובד גישה רחבה מדי. בארגון בריאות אחר זיהינו מסמכים שכללו מספרי תיקים רפואיים והיו נגישים באמצעות קישורי שיתוף פתוחים.
המקרים האלה ממחישים שינוי מהותי: הרשאות גישה רחבות ושיתוף לא מבוקר של מסמכים אינם בעיות חדשות, אבל ה-AI משנה את חומרתן. מידע שבעבר היה קבור במאות קבצים, ונדרש זמן ומאמץ כדי לאתר אותו, הופך לנגיש באמצעות שאילתה פשוטה. במציאות הזאת, העובדה שלמשתמש יש הרשאה לגשת למידע כבר אינה מספיקה כדי לקבוע שהשימוש בו בטוח. ארגוני בריאות נדרשים לבחון מחדש לא רק מי רשאי לצפות במידע, אלא גם כיצד ניתן להשתמש בו לאחר שניתנה הגישה.
ארגונים רבים מתמקדים בהבחנה בין כלי AI מאושרים לכלים ציבוריים, מתוך הנחה שהסיכון העיקרי נמצא מחוץ לסביבה הארגונית. אלא שהמציאות מורכבת יותר. באחת ממערכות הבריאות שאנחנו עובדים איתן נבדקו 104 אירועים של העברת מידע רגיש לכלי AI. ב-94 מהם נעשה שימוש דווקא בכלי הארגוני המאושר.
המשמעות אינה שכל שימוש כזה הוביל לדליפה, אלא שאבטחת מידע לא יכולה להסתכם באישור הכלי. נדרשת יכולת להבין איזה מידע מועבר, מי מעביר אותו, לאיזה יעד ולאיזו מטרה, ולהבחין בזמן אמת בין פעילות לגיטימית לבין פעולה שמסכנת מידע רפואי. חסימה גורפת של כלי AI עלולה לפגוע בעבודת הצוותים הרפואיים ולעודד שימוש בחלופות פרטיות שאינן מפוקחות. לכן, האתגר הוא לאפשר שימוש בטכנולוגיה תוך אכיפת מדיניות אבטחה מדויקת, בהתאם לרגישות המידע ולנסיבות הפעולה.
איתי שוורץ
(צילום: אוהד קאב)
האתגר הבא כבר מתפתח עם כניסתם של סוכני AI, שלא מסתפקים במענה לשאלות אלא מסוגלים לבצע משימות באופן עצמאי: לאסוף תוצאות בדיקות, לקרוא תיקים רפואיים, להכין סיכומים ולהעביר מידע בין מערכות.
בעולם הזה, כבר לא מספיק לבדוק למי יש גישה למידע. צריך לפקח גם על מה שסוכן ה-AI עושה בשם אותו משתמש. הרשאה לצפות במסמך אינה צריכה להפוך אוטומטית להרשאה לאסוף את תוכנו, להעתיק אותו או להעבירו לגורם אחר. ככל שסוכנים מקבלים יותר עצמאות, כך גדל הפער בין ההרשאות שהוגדרו מראש לבין הפעולות שהם מסוגלים לבצע בפועל.
הפתרון אינו לעצור את אימוץ הבינה המלאכותית ברפואה, אלא לשנות את תפיסת האבטחה: לעבור מהסתמכות על הרשאות וכלים מאושרים בלבד להגנה רציפה על המידע עצמו, בהתאם לרגישותו ולהקשר שבו נעשה בו שימוש.
המהפכה האמיתית במערכת הבריאות לא תימדד רק בכמות המשימות שה-AI יוכל לבצע, אלא גם ביכולת לאפשר לו לבצע אותן מבלי לאבד שליטה על המידע הרגיש ביותר של המטופלים.
איתי שוורץ הוא מייסד-שותף וסמנכ"ל הטכנולוגיות של MIND Security
