לא רק פרומפט וגמרנו: ה־AI לא נושא באחריות - המשתמשים בו - כן
פסק דינו של בית המשפט העליון חשף תופעה מטרידה: שימוש לא זהיר בכלי AI בהליך משפטי עלול להוביל להסתמכות על מקורות שאינם מדויקים, אינם רלוונטיים או אף אינם קיימים. במשך שנים חובת ההנמקה עמדה במרכז: בתי משפט ורשויות נדרשו להסביר את החלטותיהם. בעידן ה-AI זה כבר לא מספיק. לצד חובת ההנמקה נדרשת גם חובת אימות: לבדוק את תוצרי ה-AI, לוודא את המקורות שעליהם הם נשענים, ולהבהיר מי נושא באחריות לשימוש בהם.
בישראל אוהבים לדבר על חדשנות. על ה-Startup Nation, אקוסיסטם, יזמות, בינה מלאכותית, ופריצות דרך טכנולוגיות. אלא שלצד ההתלהבות, נשכחת שאלה בסיסית בהרבה: מי נושא באחריות כאשר האלגוריתם שבבסיס ה-AI טועה - ובעיקר כאשר הוא מייצר תשובה שנראית נכונה, מנומקת ומבוססת משפטית, אך בפועל היא איננה מבוססת על מקור אמיתי?
פסק הדין שניתן לאחרונה על ידי בית המשפט העליון מפי כב' השופט סולברג בעניין נבו בן כהן נ׳ עיריית רמת גן ממחיש היטב את הסוגייה. העירייה דחתה בקשה של תלמיד בחינוך המיוחד להסעה מבית אביו, תוך הסתמכות על חוזר מנכ״ל, ציטוטים ופסיקה שלכאורה תמכו בעמדתה. אלא שבהמשך התברר כי החוזר אינו קיים, הציטוטים אינם מופיעים בנוהל רלוונטי, והקביעות שיוחסו לפסקי הדין [שהובאו גם במסגרת התשובה לערעור] לא נמצאו בהם. לא הייתה כאן טעות טכנית אלא חוסר אמינות משפטי/מנהלי מובהק: החלטת רשות מנהלית שנראתה משפטית ונשמעה משפטית - נשענה בפועל על מקורות סמכות ומציאות מדומים שלא התקיימו.
בעיניי, לאחר כ־25 שנים בליטיגציה מסחרית ובנדל״ן, זהו לב העניין: בעידן ה-AI חובת ה"הנמקה" הישנה כבר אינה מספיקה. מסמך החלטה של רשות שיפוטית או מנהלית יכול להיות מנוסח היטב, ומשכנע מאוד, ועדיין להיות חסר בסיס נורמטיבי. לכן המשמעות המעשית של פסק הדין היא מעבר מ״חובת הנמקה״ ל״חובת אימות״. לא די לנמק את ההחלטה; צריך לוודא שההסבר נבדק, שהמקור קיים, שהציטוט אמיתי, ושאדם המוסמך להחליט עמד מאחורי ההחלטה שניתנה.
ואומנם, העליון עסק ברשות מנהלית, אך הלקח בעיני רחב יותר. שימוש ב- AI כבר ניכנס למערכות בנקאים, ביטוח, בריאות, דיני עבודה, רישוי, מכרזים, נדל״ן, הערכות שווי, בדיקת זכויות, חיתום ודירוג אשראי. כאשר בנק מסמן לקוח כ״סיכון״, חברת ביטוח דוחה תביעה, מעסיק מדרג עובד, או מערכת מנתחת זכויות בנכס - נדרשת תשובה פשוטה: מי בדק? מי אישר? מה עמד בבסיס ההחלטה? ובעיקר - מי נושא באחריות אם ההחלטה שגויה וזו גרמה לנזק?
טענה לפיה ״הבינה המלאכותית החליטה״ אינה יכולה להיות קו הגנה משפטי ככל שזו טעתה וגרמה לנזק. אלגוריתם אינו עומד לחקירה נגדית, אינו מפעיל שיקול דעת ואינו נושא באחריות אישית ומקצועית. למעשה, דווקא כאשר השימוש ב-AI רק גובר, מן הראוי לזכור שמאחורי כל מערכת עומדים אנשים: מי שרכש אותה, הטמיע אותה, הגדיר את הפרמטרים שלה, אישר את התוצאות והסתמך עליהן. עליהם, מתוקף השימוש בבינה המלאכותי, חלה האחריות.
האיחוד האירופי כבר עיגן ב-AI Act (חוק הבינה המלאכותית שמהווה את המסגרת המשפטית הראשונה לנושא) מסגרת רגולטורית מבוססת־סיכון, המבקשת להתמודד עם חלק מהאתגרים הללו באמצעות חובות של ניהול סיכונים, תיעוד, שקיפות ופיקוח אנושי ביחס למערכות מסוימות. בישראל, לעומת זאת, טרם התגבשה מסגרת חקיקתית רוחבית ומחייבת באותו היקף.
חדשנות אמיתית אינה נמדדת רק במהירות אימוץ טכנולוגיה. היא נמדדת גם ביכולת להציב לה גבולות מבוססים בחוק ברור, לבנות בה אמון, ולוודא שכאשר בינה מלאכותית משפיעה על זכויות, כסף, נכסים, פרנסה או שירותים חיוניים עדיין נדרש שיהא אדם אחראי. AI יכול לייעל תהליכים הוא אינו יכול להחליף את האחריות. לכן, בעידן הבינה המלאכותית, מי שמחליט על בסיס מידע חייב לא רק לנמק החלטתו אלא הוא חייב לאמת את מקורות המידע שבבסיס החלטתו.
מאת עו״ד אמיתי אביעד, שותף מייסד, אביעד איטח ושות׳ - עורכי דין ונוטריון
d&b – לדעת להחליט
