"לפני שיהיה מאוחר מדי": קליפורניה בוחנת רגולציה שתחייב "מתג כיבוי" למודלי AI
המושל גאווין ניוסום חתם על צו להקמת צוות מומחים שיגבש בתוך חודשיים המלצות להחמרת חוקי הבטיחות בתחום; קליפורניה, שבה נמצא עמק הסיליקון ופועלות רבות מחברות ה-AI המובילות בעולם, בוחנת תוכניות בטיחות שיגובשו בידי גורמים עצמאיים ו"מתג כיבוי" להשבתת מודלים במקרה חירום
מושל קליפורניה גאווין ניוסום חתם היום (ו') על צו מנהלי שנועד להתמודד עם הסיכונים הפוטנציאליים של בינה מלאכותית. כך עולה מדיווח באתר CNBC. הצו מורה על הקמת צוות מומחים שיגבש בתוך חודשיים המלצות לחיזוק חוקי הבטיחות והאבטחה של המדינה בתחום ה־AI.
קליפורניה, שבה נמצא עמק הסיליקון, היא אחד המרכזים החשובים בעולם של תעשיית ה־AI. לפי נתוני המדינה, 33 מתוך 50 חברות ה־AI הפרטיות המובילות בעולם פועלות בה. לכן כללים שיחולו על חברות שפועלות בקליפורניה עשויים להשפיע בפועל על חלק משמעותי מהתעשייה.
בין הצעדים שהצוות יתבקש לבחון נמצאת אפשרות לחייב חברות שמפתחות מודלי AI מתקדמים להחזיק תוכניות בטיחות שיגובשו בידי גורמים עצמאיים. אפשרות נוספת היא לחייב את החברות לפתח מעין "מתג כיבוי", שיאפשר להשבית מודלים במקרה חירום. בשלב זה לא מדובר בחובות שנכנסו לתוקף, אלא באפשרויות שהצוות יתבקש לבחון לקראת גיבוש כללים נוספים.
הצו מגיע על רקע ויכוח הולך ומחריף בארה"ב סביב קצב הפיתוח של מערכות AI והיקף הפיקוח עליהן. מוקדם יותר החודש התפטר חוקר הבינה המלאכותית ג'ייקוב קוקסון מאנתרופיק, לאחר שעבד גם ב־OpenAI, והזהיר כי החברות המובילות בתחום מתקדמות לעבר פיתוח מערכות בינת־על ללא מנגנוני בטיחות מספקים.
"הכישלון המוחלט של הממשל הפדרלי ליצור כל צורה של פיקוח משמעותי או אחריות בתחום ה־AI צריך להדאיג כל אמריקאי", אמר ניוסום. לדבריו, קליפורניה אינה מתכוונת להמתין לפעולה מצד וושינגטון ותפעל להרחבת הפיקוח "לפני שיהיה מאוחר מדי".
עמדתו של ניוסום עומדת בניגוד לעמדת נשיא ארה"ב דונלד טראמפ, שדחה השבוע את הקריאות להגברת הרגולציה על AI. טראמפ טען כי אין צורך ב"גדרות הגנה" נוספות בתחום, ובימים האחרונים חזר והמעיט בחששות מפני הסיכונים הנשקפים מהטכנולוגיה.
קליפורניה כבר אימצה שורה של צעדים להסדרת תחום הבינה המלאכותית. מוקדם יותר החודש חתם ניוסום על חוק שיוצר מסגרת למבקרים חיצוניים של מערכות AI. לדבריו, הצו החדש נועד לבנות על החקיקה הקיימת ולהפוך את מדיניות קליפורניה לבסיס אפשרי להסדרה רחבה יותר בארה"ב.
המהלך מגיע גם על רקע לחץ גובר מצד בכירים בתעשיית ה־AI עצמה. מנכ"ל אנתרופיק דריו אמודיי קרא לאחרונה להאט את קצב פיתוח המודלים המתקדמים, והציע בין היתר להרחיב את השימוש בצוותי בדיקה חיצוניים ובסטנדרטים מחייבים לבטיחות.
