צורכת פטריות הזיה, ושההרגל הזה הביא לדימום באזור הכליות שלה. אלא שגרין, תושבת אוסטרליה שעברה ניתוח להסרת אבנים בכליות, מעולם לא נגעה בפטריות הזיה. הרישום המוטעה, שנשלח לרופא המשפחה שלה, נוצר בעקבות ביקור אצל רופאה מומחית, שבמהלכו הסכימה גרין שמערכת בינה מלאכותית תתעד ותסכם את השיחה ביניהן. "לא רציתי שהיא תפתח כלפיי יחס שלילי, או להיות המטופלת המציקה הזו שגוזלת ממנה זמן רב מדי", אמרה בריאיון ל־ABC כשהתבקשה להסביר מדוע איפשרה זאת. הרופאה שחתמה על הרישום השגוי התנצלה על הטעות, אך לא ידעה להסביר כיצד הגיע המידע לתיק הרפואי.
אנחנו מרבים לדרוש אחריות, אך מה פירוש המושג "להיות אחראי"? הבינה המלאכותית חושפת סדק עמוק במושג היסוד הזה: בעוד הכוח להשפיע על חייהם של בני אדם הולך וגדל, היכולת להסביר את ההחלטות שמבצע ה־AI ולמנוע את נזקיהן דווקא נשחקת. כשמערכת בינה מלאכותית בבית חולים או בבנק שוגה ואדם נפגע, השאלה מי נושא באחריות נעשית מורכבת הרבה יותר. האם האחריות חלה על חברת הטק שאימנה את המודל? על המנהלת שרכשה את המערכת? על הרופא שהסתמך על הפלט השגוי? על המטופל שחתם על טופס הסכמה עמום? או אולי על הרגולטור שאיפשר לכל זה לקרות?
במאמר שפרסמו ב־2021, הציעו פרופ' פיליפו סנטוני דה סיו (Santoni de Sio) ופרופ' ג'וליו מקאצ'י (Mecacci) מסגרת להבנת פער האחריות של הבינה המלאכותית (Responsibility Gap). הם מבחינים בין ארבעה פערים שמערכות עלולות ליצור או להעמיק: הקושי לקבוע מי אשם בנזק שנגרם; הפגיעה ביכולת של בני אדם להבין ולהסביר את החלטותיהם; הקושי לדרוש ממוסדות ציבוריים להסביר ולהצדיק את החלטותיהם; והפגיעה ביכולת ובנכונות של הגורמים המעורבים לפעול מראש למניעת נזקים.
במערכות בינה מלאכותית, הידע, השליטה והסמכות פזורים לאורך שרשרת ארוכה: המפתחים מעצבים את יכולות המודל, הארגון מחליט היכן וכיצד להפעיל אותו, אנשי המקצוע בשטח נדרשים לאשר פלטים שאינם יכולים להסביר כיצד נוצרו. כך נוצר מצב שבו האדם האחרון בשרשרת עלול פעמים רבות להפוך לשעיר לעזאזל, בעוד אלו שעיצבו את התנאים שהובילו לכשל חומקים מבחינה מעמיקה של חלקם באירוע.
מי יפקח על המכונית המעופפת של מאסק?
בשבוע שעבר הציג אלון מאסק את דגם הרודסטר החדש של טסלה, שפותח בשיתוף פעולה עם חברת SpaceX, ושאותו הוא מכנה "מכונית מעופפת". הרודסטר אכן מרשימה: היא מאיצה מ־0 ל־100 קמ"ש בכשנייה וחצי, ומסוגלת לרחף באוויר. אלא שלצד ההתלהבות מההישג הטכנולוגי מתעוררת שאלה: מי יהיה אחראי לפקח על כך שכלי הרכב החדשני הזה בטיחותי מספיק כדי להימכר לציבור? כשכתבי CBS פנו לרשויות האמריקאיות בניסיון לברר מי הרגולטור שלוקח על עצמו את הטיפול במכונית, התברר שעדיין אין לכך תשובה חד־משמעית. רשות התעופה קבעה שהרכב אינו עונה להגדרה של כלי טיס, והרשות לבטיחות בדרכים הבהירה שעל טסלה לעמוד בתקני הבטיחות לכלי רכב.
המקרה של טסלה ממחיש כיצד פערי אחריות נוצרים עוד לפני שנגרם נזק. אבל מה קורה כשהסיכון מתממש? ב־18 במרץ 2018, בטמפה שבאריזונה, פגעה מכונית ניסוי אוטונומית של אובר באיליין הרצברג, בת 49, בעת שהיא חצתה את הכביש בלילה. זהו המקרה המתועד הראשון שבו הולכת רגל נהרגה מפגיעת רכב אוטונומי. חקירת המועצה הלאומית לבטיחות בתחבורה מצאה שהמערכת קלטה את הרצברג 5.6 שניות לפני הפגיעה, אך לא הצליחה לזהות אותה כהולכת רגל ולחזות את מסלולה. החוקרים הצביעו על כשלים בהערכת הסיכונים של אובר, בתרבות הבטיחות של החברה ובפיקוח על מפעילי הרכב, וכן על פיקוח בלתי מספק של רשויות אריזונה על ניסויי הרכב האוטונומי.
ובכל זאת, ההליך הפלילי התמקד באשה אחת — רפאלה ואסקס, מפעילת הבטיחות שישבה מאחורי ההגה ולא הבחינה בהולכת הרגל. ואסקס הואשמה בגרימת מוות ברשלנות, וביולי 2023 היא הודתה במסגרת הסדר טיעון בעבירת סיכון חיי אדם. התביעה החליטה שלא להעמיד את אובר לדין פלילי והחברה הגיעה עם משפחתה של הרצברג להסדר, שתנאיו לא פורסמו, בתוך פחות משבועיים. כעבור חודשיים היא אף סגרה את פעילות ניסויי הרכב האוטונומי באריזונה. כך נחשף פער מטריד: חקירת הבטיחות זיהתה שורה של כשלים אנושיים, טכנולוגיים וארגוניים, אך ההליך הפלילי התמקד במפעילה בלבד. דווקא באדם שנמצא בקצה שרשרת ארוכה של החלטות.
מדברים על אחריות וממשיכים לשעוט קדימה
סנטוני דה סיו ומקאצ'י מזהירים מפני מצב שבו מהנדסים ו"מומחים" (המירכאות במקור) יקבעו מהי רמת הסיכון הסבירה לשימוש ב־AI, מכיוון שמדובר בסופו של דבר בשאלה מוסרית וחברתית: כמה תאונות אנחנו מוכנים לספוג כדי לקדם חדשנות? ואיזה סיכון ניתן להטיל על אנשים שלא בחרו להיחשף אליו? רק בתחילת החודש אמר סם אלטמן, מנכ"ל OpenAI, ש"העולם צריך לקבל את האפשרות שדברים רעים מסוימים יתרחשו בתמורה ליתרונות הבינה המלאכותית".
אומנם בשבוע שעבר התייצבו נציגי OpenAI ואנתרופיק בפני מחוקקים בבריטניה והביעו תמיכה בדרישות בטיחות מחייבות לתעשייה, אך בינתיים המרוץ נמשך. OpenAI פירקה ב־2024 את צוות המחקר שהקימה להתמודדות עם סיכוני הבינה המלאכותית המתקדמת, ואנתרופיק ריככה השנה את התחייבויות הבטיחות שלה, בין השאר בשל הקושי להאט את הפיתוח כשהמתחרות ממשיכות להתקדם. הסתירה הזו ממחישה את מגבלות ההסדרה העצמית בתעשייה שבה אותן חברות נדרשות גם להתחרות על ההובלה וגם לקבוע אילו סיכונים הן מוכנות לקחת.
המשבר הבא הוא רק עניין של זמן. כשמערכת בינה מלאכותית תיכשל ובני אדם ייפגעו, נדרוש לדעת מי אחראי, ונגלה עד כמה קשה להשיב על השאלה הזו. משום כך, דווקא עכשיו נדרש בירור מחודש של מושג האחריות. כשיגיע המשבר, כבר יהיה מאוחר מדי להתחיל לשאול את השאלות הללו.
הכותבת היא מנכ״לית Humane AI, מומחית אינטראקציית אדם־AI
