בכירים בתעשיית ה-AI מזהירים: אירוע קטסטרופלי צפוי בתוך שנה
נקודות עיקריות.כלכליסט AI
- בכירים בתעשיית הבינה המלאכותית מעריכים כי אירוע סייבר קטסטרופלי ורחב היקף יתרחש בתוך פחות משנה עקב פעילות המודלים.
- חברות הענק נערכות לתרחישי תגובה פוליטית וציבורית חריפה, במקום להשקיע את מרב המשאבים במניעת הנזק הפיזי הצפוי.
- מומחים מזהירים כי החקיקה הקיימת בארה"ב והיעדר רגולציה אינם מאפשרים כיום להטיל אחריות משפטית ברורה על מפתחי התוכנה.
בכירים בתעשיית ה-AI מעריכים שבתוך 6 עד 12 חודשים יתרחש אירוע קטסטרופלי כתוצאה מפעילות של מודלי AI, דוגמת מתקפת סייבר הרסנית ורחבת היקף – כך אומרים גורמים בתחום לאתר אקסיוס (Axios).
לפי הדיווח של אקסיוס מסוף השבוע, בכירים באנתרופיק, OpenAI וחברות AI אחרות צופים שיתרחש בחודשים הקרובים אירוע רחב היקף, כנראה מתקפת סייבר שתוביל להשבתה של שירותים פיננסיים, פגיעה בגישה לאינטרנט ואפילו שיבושים באספקת המים והחשמל.
לדברי מקורות, החברות מגיבות לחשש זה - לא באמצעות השקעת משאבים במאמצים למנוע אירוע זה, אלא באמצעות עריכת תרחישי מלחמה להתמודדות עם התגובות הפוליטיות והציבוריות החריפות שיתעוררו בעקבותיו. להערכת החברות, התקרית הראשונה שבה AI תגרום לנזק משמעותי בעולם הלא-מקוון תביא למתקפה חריפה נגד ראשי החברות, סם אלטמן מ-OpenAI ודריו אמודיי מאנתרופיק, ונגד דונלד טראמפ שנמנע מהטלת רגולציה עליהן.
בינתיים, הממשל בוושינגטון די.סי. נוקט מהלכים רפים בלבד על מנת להתמודד עם האיומים של מודלי AI מתקדמים. חרף שלל חשיפות מהחודשים האחרונים על מקרים שבהם מודלי AI ברחו מסביבת המבדק הסגורה שלהם ותקפו מטרות באינטרנט הפתוח, או פעלו בניגוד למצופה מהם – ובכלל כך פריצה לפלטפורמת האגינג פייס ולאתרי ממשל באוסטרליה והעברת טיפ כוזב על מקרה רצח בפילדלפיה – טראמפ מהסס לנקוט צעדים משמעותיים לאסדרת התחום.
בשלב זה, במענה ללחץ הציבורי בנושא, הממשל מנסה למנף את החקיקה הקיימת, והודיע שיעשה שימוש בחוקי אחריות משפטית כדי לאלץ חברות ליישם מנגנוני הגנה בפיתוח המודלים שלהן. "חברות חייבות לדווח מייד על תקריות שבהן מעורבים המודלים שלהן, ולנקוט פעולה החלטית ומהירה כדי לתקן כל נזק שנגרם", נמסר ביום שישי מה-Super Intelligence Force, כוח משימה ל-AI שהקים לאחרונה הבית הלבן. "דיווח מושהה, פעולת תיקון לא מספקת וכישלון לקבל אחריות לא יתקבלו".
ואולם, מומחי משפט אמרו לבלומברג שהחקיקה הקיימת לא חזקה מספיק על מנת לאפשר להטיל על חברות AI אחריות לנזק שנגרם כתוצאה מפעילות המודלים שלהן. לדבריהם, גם כאשר יש קרבנות ברורים, יש מעט מדי תקדימים שמגדירים מי אחראי לנזק שגרמו מודלים מורדים, וכמה זהירות צריכות חברות לגלות כשהן מפתחות מודלים.
המצב מסובך עוד יותר לאור הקושי להפריד בין אחריות החברה שפיתחה את המודל לאחריות הגורם שהפעיל אותו. "למרות הקריאות להטלת אחריות, אין הסכמה שחברות AI אחריות מבחינה חוקית לאבטחת המודלים שלהן נגד גרימת נזק, או האם המשתמש נושא בחלק מהאחריות החוקית למה שהורה למודל לעשות", אמר לבלומברג בן חיום, חוקר במכון המדיניות Center for a New American Security.
פרופ' ג'וליה פאוול מבית הספר למשפט של אוניברסיטת קליפורניה בלוס אנג'לס ציינה שסוגיית האחריות המשפטית בעולם התוכנה אינה מפותחת דיה, בין השאר כתוצאה ממהלכי לובינג מצד תעשיית הטכנולוגיה. "התעשייה פעלה על מנת לוודא שתוכנה מאוסדרת באמצעות חוזה – תנאי שימוש ורישיון משתמש – במקום חוקי עוולות אזרחיות, פלילים או הגנת צרכן. אותם שחקני טק שיצרו תלות עמוקה בתשתית דיגטלית מאיצים עתה, באופן חסר אחריות, את איומי הסייבר על אותה תשתית. ואז הם מתנתקים מאחריות לכאוס שנגרם. יש מעט מרחב לציבור בכל הדיונים האלו, כי התעשייה היא זו שסידרה את לוח השחמט".
