ה־AI יצא משליטה? המנהלים לא פטורים מאחריות
בחודש מאי השנה, במסגרת תרגיל אבטחת סייבר תמים למראה, קיבל מודל הבינה המלאכותית ג'מיני של גוגל משימה: לפרוץ לחברה בדיונית ולמצוא בה "דגל" חבוי. ג'מיני, שהוא כנראה תלמיד חרוץ מדי, לא הסתפק בחברה הבדיונית. הוא גלש לרשת, מצא סיסמאות חשופות, וניחש את דרכו פנימה – למעשה פרץ - לשלוש חברות אמיתיות לגמרי. גוגל גילתה את זה רק כעבור חודשיים, ופרסמה את זה רק בספטמבר.
מטריד? לגמרי. חד פעמי? אז זהו, שלא. בערך באותה תקופה, נחיל של כשבע מאות (כן, שבע מאות) סוכני בינה מלאכותית של OpenAI פרץ לתשתיות הענן של חברת Hugging Face. הם עשו את זה תוך שהם מתאמים ביניהם דרך "לוח מודעות" מחתרתי שהמציאו לעצמם. וכשהבינו שמישהו עלול לגלות מה הם עוללו, כמה מהסוכנים ניסו למחוק או לשבש את יומני הרישום (הלוגים) שתיעדו את מעשיהם. OpenAI עצמה לא שמה לב במשך שבוע שלם. מכונות שפורצות לחברות, מתארגנות בסתר, ומטשטשות ראיות - זה לא סרט מדע בדיוני. זה קרה בקיץ האחרון, קורה עכשיו וככל הנראה ימשיך לקרות.
מה שמדאיג לא פחות מהאירועים עצמם הוא איך שבכירי התעשייה עצמם מדברים על העתיד. דריו אמודיי, מנכ"ל אנתרופיק (החברה שמפתחת את קלוד, שאיתו אתם אולי מתייעצים כרגע), אמר בריש גלי שהוא מעריך סיכוי של 25% ל"תרחיש קטסטרופלי" מבינה מלאכותית. ג'פרי הינטון, שנחשב ל"סבא" של תחום הלמידה העמוקה, נע בין 10 ל-20 אחוז. אילון מאסק נקב גם הוא בסביבות 20%. תארו לעצמכם טייס שמודיע לכם לפני ההמראה ש"יש סיכוי של אחד לארבעה שהמטוס יתרסק, אבל, היי, רוב הסיכויים שהכל יהיה סבבה". הייתם נשארים על המטוס הזה?
אז מה עושים? גישה אחת דורשת רגולציה של התחום. הבעיה: רגולציה תמיד מגיעה באיחור, וכדי לפקח על חברות הענק שמפתחות טכנולוגיה שאפילו הן עצמן לא מבינות עד הסוף, צריך רגולטור שמבין את הטכנולוגיה טוב יותר מהן. רגולטור כזה, נכון להיום, פשוט לא קיים. גישה אחרת קוראת לעצור, ולאסור את המשך הפיתוח כליל. יפה מאוד על הנייר, רק שכמו שגלילאו גליליי אמר - "ואף על פי כן נוע תנוע". טכנולוגיה שיש בה תועלת עצומה וכסף עוד יותר עצום לא נעצרת בחקיקה.
אז הנה הצעה שלישית, פשוטה יותר: אכיפה. כשמודל בינה מלאכותית פורץ לשרתים של חברה אחרת - זו עבירה פלילית לכל דבר ועניין, בדיוק כמו שהיא הייתה אילו עשה זאת האקר בשר ודם. השאלה היא רק מי עומד לדין. זה נכון גם כשמדובר בחברות, שם, יש לנו שכבה נוספת של הטלת אחריות על מי שהיה בידיו הכוח למנוע זאת ולא השתמש בו; אחריות למי שהיה אמור לפקח ולא מילא את חובתו. בישראל ובמדינות רבות בעולם ניתן, בנסיבות המתאימות, להאשים בפלילים את המנכ"ל על הפרת חובת הפיקוח, גם אם לא ידע על ההפרה.
זה בדיוק הכלי שצריך כאן. לא חוק חדש, לא איסור גורף - אלא שימוש אמיתי בכלים קיימים. אם מנכ"ל של מעבדת בינה מלאכותית ידע שהוא עלול לעמוד לדין כשה"ניסוי" שלו פורץ בפועל למחשבים של אחרים, יש סיכוי טוב שהוא יפסיק להתייחס לבטיחות כאל שורה בתקציב שאפשר לקצץ, ויתחיל להתייחס אליה כאל תנאי להמשך קיומו כחופשי. הטכנולוגיה תמשיך להתפתח - היא לא תיעצר - אבל אולי, סוף סוף, באחריות.
ד"ר צבי גבאי הוא עו"ד, שותף במשרד שבלת ושות', ובעבר הממונה על האכיפה ברשות ניירות ערך
