טראמפ מסיר את המגבלות: מודלי ה-AI העוצמתיים של אנתרופיק יחזרו היום לשימוש
הממשל האמריקאי חוזר בו מהצו שהשבית את הגישה למיתוס 5 ופייבל 5, לאחר שבועיים של עבודה משותפת עם אנתרופיק על מנגנוני בטיחות משופרים. מזכיר הסחר של ארה"ב: "עבדנו בצמוד לאנתרופיק כדי להבטיח התאמה עם ממשלת ארה"ב"
ממשל טראמפ הסיר את מגבלות הגישה שהטיל על מודלי ה-AI העוצמתיים של אנתרופיק, והחברה צפויה להנגיש אותם מחדש למשתמשים החל מהיום.
"אנתרופיק נקטה בצעדים, בשיתוף פעולה קרוב עם ממשלת ארה"ב, על מנת להתמודד עם הסיכונים הקשורים למיתוס 5 ולקלוד 5", כתב לאנתרופיק מזכיר הסחר של ארה"ב, הווארד לוטניק. הוא הוסיף ב-X (לשעבר טוויטר): "בשבועיים האחרונים עבדנו בצמוד לאנתרופיק על מנת לנתח ולאשר את פייבל 5, כדי להבטיח התאמה עם ממשלת ארה"ב ולחזק את המובילות האמריקאית ב-AI".
ב-12 ביוני השביתה אנתרופיק את הגישה למודלי פייבל 5 ומיתוס 5, ימים ספורים לאחר שהנגישה אותם. זאת, לאחר שממשל טראמפ פרסם צו מגבלת ייצוא שאוסר על גישה של אזרחים זרים למודלים, כולל מתוך ארה"ב. מכיוון שלחברה לא היתה יכולת להבדיל בין אזרחים אמריקאיים לזרים, היא נאלצה להשבית את הגישה למודלים לכלל המשתמשים ולכל עובדי החברה שאין להם אזרחות אמריקאית (כולל עובדים שהיו מעורבים בפיתוח המודלים).
אנתרופיק חשפה את מיתוס באפריל תוך שהיא מצהירה על יכולות סייבר מתקדמות במיוחד, בכל הנוגע לסריקת קוד של מערכות תוכנה וזיהוי פרצות אבטחה. בגלל חשש ששחקנים רעים ינצלו יכולת זו לרעה, הגישה למודל הוגבלה לכ-50 ארגונים וחברות אמינים.
במקביל, החלה אנתרופיק לעמול על גרסה של מיתוס עם מנגנוני הגנה שימנעו שימוש ביכולות העוצמתיות שלו. גרסה זו, שמכונה פייבל, הושקה ימים ספורים לפני הצו של ממשל טראמפ. היא כוללת יכולות סייבר מוגבלות יותר, מנגנונים שמגבילים שימוש במודל בתחומים שמוגדרים בעלי סיכון גבוה, כמו ביולוגיה וכימיה (בהקשר של תכנון כלי נשק, למשל), ומגבלות על היכולת להשתמש במודל לפיתוח מודלי שפה גדולים (LLMs) אחרים. לצד השקת פייבל, הרחיבה אנתרופיק את הגישה למיתוס לשותפים מהימנים ומורשים בלי המגבלות שמוטלות על פייבל, פרט למגבלות על פיתוח מודלי חזית מתקדמים.
הממשל החליט להורות על חסימת המודל בעקבות דוח של חוקרים באמזון, שלפיו הצליחו לעקוף את מנגנוני ההגנה של פייבל ולהשתמש בו לזיהוי חולשות אבטחה מינוריות. אף שבאנתרופיק טענו שמדובר בחולשות שמודלים חלשים יותר מסוגלים לזהות, החסימה אילצה את החברה לבצע שינויים במנגנוני ההגנה של המודל. "בעבודה צמודה עם הממשל אמנו מנגנון בטיחות משופר, שמטרגט וחוסם את ההתנהגות שמתוארת בדוח", נמסר מהחברה. "הטכניקה שמתוארת בדוח של אמזון נחסמת ב-99% מהמקרים. בחלק מאוד קטן של המקרים, המודל יכול לספק מידע שאינו מפורט מספיק כדי לסייע במתקפת סייבר".
לפי הוול סטריט ג'ורנל, הממשל הסיר את המגבלות לאחר שיחות שערך סמנכ"ל המחשוב של אנתרופיק, טום בראון, עם מחלקת הסחר וגופי ממשל אחרים שנועדו לשכנע אותם שהמודל בטוח לשימוש ציבורי. "אנחנו אסירי תודה למשתמשים שלנו על הסבלנות שלהם, ולכל מי שעבד איתנו כדי לפרוס מחדש את המודלים", נמסר מאנתרופיק.
