פרשנות
ביטחון לאומי או נקמה פוליטית? מה עומד מאחורי חסימת מודל ה־AI של אנתרופיק
הבית הלבן הורה לחסום את הגישה למודל מיתוס העוצמתי של אנתרופיק, בטענה לשיקולי ביטחון לאומי. ואולם ברקע הסכסוך בין החברה לממשל, ולאור אופיו הנקמני של דונלד טראמפ, עולה שאלה עקרונית: האם וושינגטון יכולה להשתמש בטיעוני ביטחון לאומי כדי ללחוץ על חברות פרטיות שלא נענו לדרישותיה
אנתרופיק שחררה ביום שלישי לציבור גרסה מוחלשת של קלוד מיתוס, מודל ה־AI העוצמתי שיכולת זיהוי פרצות האבטחה שלו עוררה חשש מאפוקליפסת סייבר והביאה להגבלת הגישה אליו למספר מצומצם של ארגונים. שלושה ימים לאחר מכן, המודל כבר לא היה זמין. לא בגלל תקלה כלשהי, לא בגלל ששחקנים עוינים הצליחו לנצל אותו לשימוש זדוני, לא בגלל מחדל או פאדיחה כלשהם, אלא בגלל הוראה חסרת תקדים של הבית הלבן. הסיבה הרשמית היא שיקולי ביטחון לאומי. אבל כשברקע סכסוך של אנתרופיק עם הפנטגון, ולאור אופיו הנקמני של דונלד טראמפ, לא מן הנמנע שמדובר בנקמה של הממשל בחברה שלא הסכימה להכפיף את עצמה לרצונו.
אנתרופיק חשפה את מיתוס באפריל האחרון, תוך שהיא מצהירה על יכולות סייבר מתקדמות במיוחד, בכל הנוגע לסריקת קוד של מערכות תוכנה וזיהוי פרצות אבטחה. יכולת זו יכולה לשמש ארגונים על מנת להפוך את המערכות שלהם למאובטחות יותר. אבל בידי האקרים, היא יכולה להפוך לכלי נשק עוצמתי בפריצה למערכות תוכנה קריטיות, ושיבושן, השבתתן או גניבת מידע מהן. לאור זאת, החליטה החברה שבתור התחלה לא יושק מיתוס לציבור הרחב, והגישה אליו תוגבל לקבוצה מצומצמת של כ־50 ארגונים אמינים, ובהם ענקיות טק דוגמת גוגל, מיקרוסופט, אמזון, אפל ואנבידיה, חברות סייבר דוגמת פאלו אלטו נטוורקס וגופים פיננסיים דוגמת ג'יי.פי מורגן צ'ייס והחברה שמפעילה את בורסת ניו יורק. בתחילת יוני הורחבה הקבוצה ל־150 ארגונים נוספים, ובהם לראשונה גם חברות מחוץ לארה"ב.
במקביל, החלה אנתרופיק לעמול על גרסה מסורסת של מיתוס, עם מנגנוני הגנה שימנעו שימוש ביכולות העוצמתיות שלו, שתהיה זמינה לציבור הרחב. גרסה זו, שמכונה פייבל (Fable), הושקה ביום שלישי שעבר. היא כוללת יכולות סייבר מוגבלות יותר (זהות למודל קלוד אופוס 4.8 שכבר זמין בשוק), מנגנונים שמגבילים שימוש במודל בתחומים שמוגדרים בעלי סיכון גבוה, כמו ביולוגיה וכימיה (בהקשר של תכנון כלי נשק, למשל), ומגבלות על היכולת להשתמש במודל לפיתוח מודלי שפה גדולים (LLMs) אחרים.
"זה רע מאוד לקהילת המחקר"
במקביל לפייבל, הרחיבה אנתרופיק את הגישה למיתוס לשותפים מהימנים ומורשים בלי המגבלות שמוטלות על פייבל, פרט למגבלות על פיתוח מודלי חזית מתקדמים. בניגוד לפייבל, שבמקרים מסוימים פשוט מסרב לענות על שאילתות מסוימות או מנתב את המענה למודל חלש יותר, במיתוס עושה החברה שימוש במנגנוני שינוי פרומפט וכוונון פרמטרים שמייצרים בכוונה תשובות נחותות בתחומים מסוימים. "מיתוס יהיה רע בכוונה במשימות של מודל חזית, זה רע מאוד לקהילת המחקר", כתב ב־X (לשעבר טוויטר) אלי באקוש, מומחה לאימון מודלים בסטארט־אפ ה־AI Prime Intellect. "העובדה שזה לא גלוי למשתמש במכוון היא מטורפת". מפתח AI אחר כתב: "הוא לא רק לא יעזור לך, הוא ישקר ובכוונה ייתן לך מידע רע. חברת 'ה־AI האתי' עם ה־LLM הכי לא אתי במופגן, בכוונה".
אבל לקהילת המפתחים לא היה יותר מדי זמן להתרעם על מגבלות מיתוס, לציבור המשתמשים לא היה זמן להתרשם לעומק מיכולות פייבל, ולקבוצת תקיפה טרם היה זמן לנסות ולעקוף את המגבלות של פייבל. כי ביום שישי, הן פייבל והן מיתוס לא היו זמינים עוד למשתמשים מחוץ לאנתרופיק, ואפילו לא לכל העובדים בחברה. הסיבה: החלטה חסרת תקדים של הבית הלבן.
"ממשלת ארה"ב, כשהיא מציינת שיקולי ביטחון לאומי, פרסמה צו מגבלת ייצוא שמשהה את הגישה של אזרחים זרים לפייבל 5 ולמיתוס 5, בין שהם בתוך ארה"ב ובין שהם מחוץ לארה"ב, כולל אזרחים זרים עובדי אנתרופיק", הודיעה החברה ב־X. אף שהצו לא אוסר, ולא יכול לאסור, על שימוש במודלים על ידי אזרחים אמריקאים, בפועל לחברה אין אפשרות להבדיל בין אזרחים ללא־אזרחים, ולכן היא נאלצה לחסום את הגישה למודלים לכלל הציבור. בנוסף, נאלצה החברה למנוע מעובדיה שאינם אזרחי ארה"ב את הגישה למודל. זאת, אף שסביר שלפחות לחלק מהם היה תפקיד מרכזי בפיתוחו.
הצו הוצא בהתאם לסמכות של מחלקת הסחר להגביל יצוא של מוצרים מסוימים משיקולי ביטחון לאומי. אחד השימושים המפורסמים של סמכות זו הוא הגבלת היצוא לסין של שבבים עתירי־ביצועים, שהחל בימי ממשל ביידן.
לדברי אנתרופיק, היא קיבלה את הדרישה ביום שישי בשעה 17:21, שעון החוף המזרחי. "המכתב לא סיפק פרטים ספציפיים של שיקולי הביטחון הלאומי", היא כתבה בהודעה שפרסמה באתרה. "ההבנה שלנו היא שהממשל מאמין שקיימת שיטה לעקוף את מנגנוני ההגנה, או 'ג'יילברייקינג', של פייבל 5. בחנו הדגמה שבה נעשה שימוש בשיטה זו על מנת להשתמש בפייבל כדי לזהות מספר קטן של חולשות מינוריות (במערכות תוכנה כלשהן — ע"כ) שלא היו ידועות קודם. חולשות אלו נראות פשוטות יחסית, וגילינו שמודלים פומביים אחרים יכולים לזהות את אותן חולשות בלי צורך במעקף של מנגנוני הגנה". קייטי מוסוריס, מנכ"לית חברת הגנת הסייבר Luta Security, אמרה ל"וול סטריט ג'ורנל" שהג'יילברייקינג המדובר פותח על ידי חוקרים באמזון, שהשתמשו בשורה של פרומפטים על מנת לגרום למודל לספק להם מידע על מספר חולשות אבטחה. "אבל המידע שסיפק המודל שימושי יותר לאנשים שמגינים על רשתות מחשבים מאשר אלו שתוקפים אותן", היא הוסיפה. "מי בבית הלבן בחן את זה וחשב שזה איום? זו תגובת יתר מוחלטת, כי זה בדיוק סוג הדברים שמגינים יעשו".
יד ימין אוסרת, יד שמאל מתירה
ההחלטה להגביל את המודלים של אנתרופיק משיקולי ביטחון לאומי נראית חשודה עוד יותר לאור העובדה שממשל טראמפ הקל חלק מהמגבלות על יצוא שבבי AI לסין (בין השאר, בעסקה שבמסגרתה אנבידיה משלמת לממשל 15% מהכנסותיה מיצוא שבבים למדינה). "זה מבלבל שהממשל יפעל להגביל מודלי AI שיכולים להוות סיכון לביטחון הלאומי, אבל אז יתיר למכור את השבבים שמשמשים לפיתוח המודלים האלו למדינות יריבות", אמר ל"וול סטריט ג'ורנל" ג'ימי גודריץ', עמית בכיר במכון לעימות ושיתוף פעולה גלובליים של אוניברסיטת קליפורניה.
אפשרות אחרת היא שלהוראה אין קשר בכלל לשיקולי ביטחון לאומי. לאנתרופיק סכסוך ממושך עם ממשל טראמפ סביב השימוש של הפנטגון במודלים שלה. ב־2025 היה קלוד מודל ה־AI היחיד בעל הרשאה לעבוד עם מערכות מידע מסווגות של צבא ארה"ב. ואולם, בתחילת השנה התעוררה מחלוקת בין החברה לממשל סביב דרישת מזכיר ההגנה פיט הגסת' לאפשר לפנטגון להשתמש במודל ל"כל מטרה חוקית". החברה סירבה לדרישה זו, על רקע חשש שהסכמה תאפשר שימוש בקלוד לפיתוח והפעלה של כלי נשק אוטונומיים או מעקב אחרי אזרחים אמריקאים.
בפברואר, אחרי שמגעים להגיע להסכמה בנושא כשלו, הודיע טראמפ שהחברה תסולק מכל המערכות הפדרליות, והגסת' הגדיר את החברה כ"סיכון לשרשרת האספקה". הגדרה זו, ששמורה לרוב לחברות במדינות עוינות, חייבה קבלנים של הפנטגון לנתק קשרים עם החברה. במקביל, חתם הפנטגון על עסקאות לשימוש במערכות ה־AI של חברות כמו OpenAI וגוגל, שנענו לדרישות הפנטגון בכל הנוגע למגבלות מזעריות על השימוש. תביעה שהגישה החברה נגד הממשל בסוף מרץ עדיין מתנהלת, אם כי בית משפט פדרלי לערעורים קבע שהאיסור יהיה בתוקף עד לקבלת הכרעה. לאור העובדה ששיקולי הביטחון הלאומי שהציג הממשל נראים קלושים, מתחזקת האפשרות שההחלטה היא מעשה נקמני, מהסוג שמאפיין את טראמפ וממשלו. במקרה זה, מדובר בחציית קו אדום נוסף במינוף כוחו של הממשל על מנת להכפיף למרותו חברות פרטיות ולהתנקם באלו שלא התכופפו למען יראו וייראו.
בימים הקרובים, סביר שיתבררו יותר לעומק השיקולים שמאחורי החלטת הממשל. אם אכן מדובר היה במהלך שהונע בעיקר מנקמנות, ואם בתי המשפט לא יבטלו אותו במהרה, יהיה זה איתות אזהרה לכלל החברות במשק, ויחייב אותן לקבל החלטה קריטית: האם להציב חזית משותפת מול דרישות והתנהלות כוחנית של הממשל, או להתכופף ולהכפיף את פעילותן לגחמותיו של אדם אחד, לא יציב במיוחד.
