דעה
בינה מלאכותית אחראית? יש חיה כזו
מן הידועות שכלי צ'אט המסתמכים על מודלי שפה גדולים (כמו ChatGPT) הם מקור בעייתי למידע קריטי, ועל כן אינם מומלצים לשימוש במסגרות בהן הדיוק מתחייב. עם זאת, שימוש בכלים אלה הוא מעשה שבשגרה, ובקרת האיכות לא תמיד מצליחה למנוע פספוסים. כך, קנסות הושתו בשנה האחרונה על עורכי דין אשר הגישו כתבי הגנה ובהם מובאות שלא היו ולא נבראו, תולדה של שימוש לא זהיר בכלי בינה מלאכותית.
בעולם הבריאות נדרשת זהירות כפולה ומכופלת. אנו חוששים לא רק מ"הזיות" של המודלים, אלא גם מהטיות הנובעות מנטייתם של המודלים לשחזור ולהעצים מציאות בעייתית של איכות לא שוויונית בין קבוצות אוכלוסייה. כך, אם המציאות היא שבמדינות רבות סובלות נשים יותר מגברים מאבחון שגוי של מחלות לב, מערכות AI הלומדות ו"מתאמנות" על מציאות זו, נוטות לשחזר ואף להעצים אותה.
החששות הללו מבוססים, ודאי לאור הקושי המתגבר של רשויות בריאות ברחבי העולם לקיים רגולציה על מערכות בינה מלאכותית. דיונים אשר קיימנו בנושא זה בוועדה המייעצת העליונה לאו"ם העלו אתגר כפול - מחד, החשש מפני הסיכונים הכרוכים בשימוש לא זהיר בבינה מלאכותית במגוון תחומים, ומאידך - חשש מההשלכות של אי-אימוץ פתרונות אלה או במילים אחרות - הנצחת סיכוני הסטטוס-קוו.
אם ניקח לדוגמא את תחום הבריאות - מסמך עבודה של ה-OECD שפורסם לאחרונה קובע כי 15% מהאבחנות במערכות בריאות במדינות המפותחות הן שגויות, מאוחרות או לא מדויקות. הנטל הכלכלי הכרוך בשגיאות אנושיות אלה שווה-ערך לפי ה-OECD לכ-17.5% מהוצאות הבריאות, או כ-1.8% מהתמ"ג! נתונים מטרידים אלה עלולים להיות הערכת חסר, והם צפויים להחמיר עם ההכבדה בנטל הטיפול באוכלוסייה מזדקנת ומורכבת, נטל המושת על היקף כח-אדם המתכווץ והולך ביחס לצרכים.
לכלים מבוססי בינה מלאכותית יש את הפוטנציאל לשפר משמעותית את איכות הטיפול, ולהעלות את זמינותו בכל שכבות האוכלוסייה לרבות בפריפריה העמוקה. אי-הכנסת כלים חדשים ואי שיפור המצב הקיים - זהו "סיכון הסטטוס-קוו" - סיכון שעל פי רוב אינו נמדד או משוקף באופן שוטף.
ישנו אתגר נוסף שעלינו לקחת בחשבון. מחקרי אוכלוסייה הדגימו כי הסנטימנט הציבורי שופט לחומרה ולא מוכן לקבל שיעור טעויות של מערכות ממוחשבות (נניח - בשיעור של 5%), אך מוכן לקבל אותן בסלחנות ככורח המציאות כאשר בני אדם מבצעים את אותה הפעילות. זו סיבה מרכזית בבסיס הקושי להכניס מכוניות אוטונומיות לפעילות במדינות רבות, גם לאחר שהוכח ששיעור התאונות הצפוי נמוך משמעותית ביחס לנהגים אנושיים באותן נסיבות.
אחד מהיתרונות יוצאי הדופן של מדינת ישראל בבינה מלאכותית, כמו גם בסייבר, הוא בפתרונות יישומיים. כך, שירותי בריאות כללית נחשבים לגוף מוביל בינלאומית בעולם הבינה המלאכותית בבריאות. בזכות 15 שנים של מחקר, פיתוח ויישום בחזית המדע והטכנולוגיה העולמי, הקדמנו את רוב גופי הבריאות בעולם בהטמעה משמעותית של פתרונות שגופים גדולים ועשירים בסדרי גודל רק מתחילים לחקות ולאמץ כיום.
בתחום הקליני, בחרנו להתמקד בפתרונות מבוססי למידת מכונה - שאינם חשופים לאתגרים של "הזיות", וטיפלנו מראש באתגר ההטיות באופן שיטתי. התוצאה - המלצות מבוססות AI לרפואה יוזמת מנבאת ומונעת נבחנות מדי יום על ידי רופאי כללית, ומעל ל-100,000 מהן מאומצות מדי חודש על ידי רופאי הקהילה והופכות להנחיות טיפוליות.
מחקרים שפרסמנו בספרות העולמית המובילה מציגים שיפור עד פי 100 (!) ביכולת האבחון והטיפול בזכות כלים אלה. מעטים הארגונים בעולם שיכולים להציג היקף פעילות כה משמעותי, ודאי לאורך 15 שנים. גם כלים מעולם מודלי השפה פותחו בכללית, והם משמשים כיום לדוגמא את רופאי בית החולים שניידר לילדים לענות על שאלות קליניות של מתמחים - אולם אלו מתבצעים תחת מסגרת מחקרית ובבקרה עמוקה ומתמדת.
חשוב לא פחות - כללית הינה גם ארגון הבריאות הראשון בישראל המפעיל רגולציה פנימית מחמירה וייחודית מסוגה על פתרונות בינה מלאכותית. כלי הרגולציה שפיתחה כללית פורסמו בספרות המובילה ותוקשרו על ידי ארגוני בינלאומיים כמו ה-OECD וארגון הבריאות העולמי. כלים אלה, הידועים בשם 'אופטיקה', נבחנים כיום במדינות שונות כבסיס לרגולציה מקומית ולאומית.
למדינת ישראל יש מספר פערים עמוקים לסגור כדי שנוכל לשמר מובילות בינלאומית בתחום הבינה המלאכותית בכלל, ובבריאות בפרט. פערים בהכשרה, בתשתיות מידע מחשוב ואנרגיה, ובהשקעה בפיילוטים יישומיים, הם חלק מהפערים שסימנה ועדת נגל במסקנותיה שהוגשו השנה, והקמתה של רשות לאומית לבינה מלאכותית בראשותו של תא"ל ארז אסקל היא הזדמנות יוצאת דופן להתחיל לסגור אותם.
בוועידת HealthTech AI הלאומית השנתית שתתקיים ב-29 לדצמבר בתל-אביב בהשתתפות בכירי מקבלי ההחלטות, חברות הטכנולוגיה, החוקרים והקלינאים מישראל ומהעולם, נדון באתגרים אלו, ונקווה לסמן את פריצות הדרך שישמרו את המובילות הבינלאומית של ישראל בתחום קריטי זה.
פרופ' רן בליצר הוא סמנכ"ל וראש מערך החדשנות בכללית, יו״ר ועידת Health Tech AI 2025, שתיערך בשבוע הבא במלון דיוויד אינטרקונטיננטל, ביוזמת כללית חדשנות
