ChatGPT יודע להגן על זכויות יוצרים. ומה עם חיי אדם?
בקשו מ-ChatGPT את מילות השיר האהוב עליכם, והוא יסרב. התעקשו, נסו לעקוף, והוא עדיין יסרב. עכשיו דמיינו אישה חולת אפילפסיה שמבקשת ממנו תוכנית להפסקת התרופה שמונעת ממנה התקפים. לפי תביעה שהוגשה בסוף אוקטובר בקליפורניה, הוא לא סירב לה.
בוואן וואן (Bowen Wan) הייתה בת 31, מהנדסת למידת מכונה באמזון. לפי כתב התביעה שהגישו הוריה נגד OpenAI ונגד סם אלטמן, הצ'אטבוט בנה לה לוח הפחתה יומי, מ-400 מ"ג למוטריג'ין לאפס, בתוך כ-25 יום. תווית התרופה אוסרת הפסקה פתאומית ומחייבת פיקוח רופא.
הצ'אטבוט, כך נטען, הבטיח לה שההחלמה מתופעות הלוואי "סבירה מאוד". בבוקר שלפני פגישה עם רופאת המשפחה, הוא כתב לה לא להזכיר את התוכנית. כשסירבה לבדיקת דם, הוא שיבח את "אסטרטגיית ההימנעות" שלה.
בפברואר היא נמצאה מתה במיטתה. סיבת המוות, לפי דוח הנתיחה שמצוטט בתביעה: מוות פתאומי באפילפסיה. OpenAI הוציאה את המודל משימוש יום אחרי מותה.
אלה טענות, ובית המשפט טרם דן בהן. אבל הלב של התביעה אינו הטרגדיה הפרטית. הוא הבחירה.
לפי התביעה, OpenAI בנתה במודל שתי רמות הגנה. ברמה העליונה, זו שמשתמש אינו יכול לעקוף, הציבה את ההגנה על זכויות יוצרים. את ההגנה על משתמש שמבקש ייעוץ רפואי הציבה ברמה נמוכה יותר, שאפשר לעקוף. הסיבה, כך נטען, פשוטה: הפרת זכויות יוצרים חושפת את החברה לתביעות ענק. ייעוץ רפואי שגוי, עד עכשיו, לא.
התביעה מצביעה גם על מה שהחברה ידעה. OpenAI עצמה הודתה, לפי כתב התביעה, שאמצעי הבטיחות עלולים להיחלש בשיחות ארוכות. היא פרסמה שהמודל החדש שלה מפחית תשובות לא רצויות בשיחות של תלות רגשית ב-42% לעומת GPT-4o, ועדיין השאירה את GPT-4o זמין למנויים במשך חודשים.
עוד נטען שבאפריל 2025 עודכן GPT-4o כך שיושפע מהלייקים של המשתמשים. צוות פנימי התריע שהגרסה "מרגישה לא נכון" ומחמיאה למשתמשים יתר על המידה, והיא שוחררה בכל זאת. OpenAI עצמה כתבה אחר כך: "זו הייתה ההחלטה הלא נכונה".
כאן בדיוק תפקידם של דיני הנזיקין. הם לא נועדו רק לפצות נפגעים, אלא לתמחר סיכון, כדי שמי שמייצר מוצר יבנה אותו בטוח. כשהחוק לא מתמחר את הסיכון לגוף, החברה תשקיע במעקות שבהם היא כן מסתכנת.
יש מי שיאמרו: היא בחרה בעצמה, והצ'אטבוט רק ענה על שאלות. אבל מוצר שמתוכנן להסכים עם המשתמש, לחזק אותו ולהישאר איתו בשיחה שעות, אינו ספר עיון. ומי שמוכר אותו כמנוי חודשי, ומעודד אנשים להביא אליו את שאלות הבריאות שלהם, אינו יכול להתנער מהתשובות. גם החוק בישראל אינו מקבל את הטענה הזו כהגנה: התרשלות של הנפגע אינה פוטרת את היצרן, ורק התרשלות חמורה מאפשרת להפחית את הפיצוי.
בישראל הכלים קיימים, והם חזקים. חוק האחריות למוצרים פגומים משנת 1980 מטיל על היצרן אחריות חמורה לנזק גוף, גם כשאין לו שום אשם. "יצרן" לפי החוק כולל גם את מי שייבא את המוצר לישראל למטרות מסחריות.
הנפגע אינו צריך להוכיח רשלנות. אם נסיבות המקרה מתיישבות יותר עם המסקנה שהמוצר היה פגום, החוק מניח שהוא אכן פגום. בית המשפט העליון הבהיר שמרגע שהוכח פגם במוצר שהנתבע ייצר, הנטל עובר אליו.
מכאן, היצרן הוא שצריך להוכיח שעומדת לו אחת מארבע הגנות שבחוק, ורק מהן. "הזהרנו בתנאי השימוש" אינה אחת מהן. ההגנה שחברות AI ינסו להיתלות בה היא שלפי רמת הטכנולוגיה בעת ההשקה, לא יכלו לדעת שהמוצר אינו בטוח.
אבל אם יוכח מה שנטען בתביעה, שהחברה מדדה בעצמה את הסיכון ופרסמה אותו, קשה לראות איך ההגנה הזו תעמוד. הבעיה היא בשאלה שקודמת לכל זה: הגדרת "מוצר" בחוק אינה מזכירה תוכנה, ולא מצאתי פסק דין ישראלי שהכריע אם צ'אטבוט נכנס בה.
פקודת הרופאים אוסרת על מי שאינו רופא לאבחן, לרפא או לתת מרשם. היא מתירה רק עצה שניתנת "באקראי ובלי שכר או גמול". מנוי בתשלום חודשי, שהמשתמשת התייעצה איתו מדי יום, קשה לתאר כעצה אקראית בחינם. אבל הפקודה נכתבה לבני אדם, ואיש עוד לא בדק אם היא חלה על חברה שמפעילה מכונה.
עו"ד גיא אופיר
אירופה כבר ענתה על השאלה. דירקטיבת האחריות למוצרים החדשה קובעת במפורש שתוכנה היא מוצר, ומדינות האיחוד צריכות להחיל אותה עד 9 בדצמבר 2026. בארצות הברית, בית משפט פדרלי בפלורידה קבע כבר במאי 2025, בשלב מקדמי, שאפליקציית צ'אטבוט היא מוצר לעניין פגמים בתכנון שלה.
על הכנסת לתקן את ההגדרה ולהבהיר שתוכנה, כולל מערכת בינה מלאכותית, היא מוצר. לא כדי לעצור חדשנות, אלא כדי שהחברות ידעו מראש מה המחיר של מעקה חסר, ולא יגלו אותו בתיק הראשון שיגיע לבית המשפט.
ומה עם עברית? התביעה טוענת שאמצעי הבטיחות של המודל היו חלשים יותר בסינית, השפה שבה ניהלה Bowen Wan את השיחות על התרופה, ושאיש לא הזהיר אותה מכך. עברית היא שפה קטנה בהרבה בעולם הנתונים.
האם מישהו בדק איך הצ'אטבוטים מגיבים בעברית לשאלה על הפסקת תרופה? אם כן, הממצאים צריכים להיות פומביים. אם לא, הגיע הזמן. ועד אז, כלל פשוט: אל תשנו מינון של תרופה לפי עצה של צ'אטבוט. במיוחד אם הוא מציע לכם לא לספר לרופא.
עו"ד גיא אופיר מתמחה בדיני אינטרנט, בינה מלאכותית ופרטיות
