רק חברות נבחרות יקבלו גישה: מודל ה-AI העוצמתי שאנתרופיק חוששת לשחרר
אפל, גוגל, מיקרוסופט ועוד כ-40 חברות נבחרות יקבלו גישה למודל Claude Mythos Preview במסגרת יוזמת אבטחת סייבר חדשה של אנתרופיק. בין היתר, המודל איתר פרצה בת 27 שנה באחת המערכות המאובטחות בעולם. מומחה בתחום מסביר את הסכנות: "אם גישה ליכולת כזו תתרחב - כל גוף קטן יוכל לגנוב מידע מחברות ענק"
אנתרופיק הכריזה שלשום (ג') על מודל AI חדש ועוצמתי - קלוד מיתוס פריוויו (Claude Mythos Preview). לטענת חברת ה-AI, המודל חזק מכדי לשחרר אותו לציבור הרחב, ולכן בשלב זה רק קבוצה מצומצמת של כ-40 חברות יקבלו גישה אליו במסגרת יוזמת אבטחת סייבר חדשה בשם "פרויקט גלאסווינג" (Project Glasswing). בין החברות הנבחרות: אפל, גוגל, מיקרוסופט, אנבידיה, אמזון, פאלו אלטו וקראודסטרייק. החברות ישתמשו במודל כדי למצוא ולתקן חולשות אבטחה בתוכנות קריטיות. אנתרופיק מתכוונת להקצות עד 100 מיליון דולר בקרדיטים לשימוש בקלוד לטובת המהלך.
"במשך שנים עקבנו אחרי העלייה ביכולות הסייבר של מודלי AI, שמתפתחות כחלק מהמיומנות הכללית שלהם בקידוד. אבל המודל החדש שלנו, Mythos Preview, מייצג קפיצה משמעותית במיוחד קדימה", כתב בפוסט ב-X מייסד ומנכ"ל החברה, דריו אמודיי. לדבריו, המטרה של פתיחת המודל לחברות נבחרות בלבד היא לאפשר להן לתקן את הפרצות "לפני שמודלים כמו מיתוס יתפשטו בכל האקוסיסטם".
"הסכנות שבטעות כאן ברורות, אבל אם נעשה את זה נכון - יש כאן הזדמנות אמיתית ליצור אינטרנט ועולם בטוחים הרבה יותר ממה שהיו לנו לפני הופעת יכולות הסייבר המונעות על ידי בינה מלאכותית", הוסיף אמודיי. "הסייבר הוא הסכנה הברורה והמיידית הראשונה מדגמי AI מתקדמים, אבל זו לא תהיה האחרונה. אם נוכל לקום יחד לאתגר הזה ולהתמודד עם הסיכון הזה, זה עשוי לשמש כתוכנית מעשית להתמודדות עם האתגרים הקשים אפילו יותר שמחכים לנו בעתיד".
אליה זייצב, מנהל הטכנולוגיה הראשי של קראודסטרייק, אמר שהמודל "מדגים מה אפשרי כעת עבור גורמי הגנה בקנה מידה גדול, וגורמים עוינים ינסו בהכרח לנצל את אותן יכולות". לדבריו, "מה שנדרש לו בעבר חודשים, קורה כעת תוך דקות עם בינה מלאכותית".
אנתרופיק לא פרסמה מידע רב על המודל, שקיבל בפיתוח את שם הקוד "קפיברה" (Capybara). אולם לאחר שפרטים דלפו בשוגג בחודש שעבר וגרמו לצניחה במניות הסייבר, הודתה החברה שהיא רואה בו "שינוי מהותי" ביכולות הבינה המלאכותית, עם ביצועים משופרים בתחומים כמו קידוד ומחקר אבטחת סייבר.
במהלך כמה שבועות של בדיקות, זיהה מיתוס אלפי פרצות מסוג zero-day - כלומר פרצות אבטחה שהיצרן לא יודע על קיומן. כך למשל, המערכת איתרה פרצה בת 27 שנה ב-OpenBSD, מערכת הפעלה הידועה כאחת המאובטחות בעולם, המשמשת להרצת חומות אש ותשתיות קריטיות. הבאג אפשר לכל אחד להקריס מרחוק מכונה רק על ידי התחברות אליה. במקרה אחר, התגלתה פרצה בת 16 שנה ב-FFmpeg, ספריית קידוד וידאו המשמשת אפליקציות רבות. כלי בדיקה אוטומטיים הגיעו לאותה שורת קוד ספציפית 5 מיליון פעמים מבלי לזהות את הבעיה.
המודל הציג ביצועים חריגים במבחנים שונים. כך למשל, במבחן SWE-bench Verified שבו המודל נדרש לתקן באגים בתכנות, קיבל מיתוס ציון של 93.9%. לשם השוואה, המודל המתקדם ביותר של אנתרופיק, קלוד אופוס 4.6, קיבל ציון של 80.8% במבחן זה. במבחן המתמטי USAMO קיבל מיתוס ציון של 97.6%, בעוד שאופוס 4.6 קיבל רק 42.3%. במבחן הסייבר CyberGym קיבל מיתוס ציון של 83.1%, בעוד שאופוס 4.6 קיבל רק 67%.
מוקדם יותר השבוע דיווחה אנתרופיק שקצב ההכנסות השנתי שלה יותר משילש את עצמו ב-2026 - מ-9 מיליארד דולר ל-30 מיליארד - בעיקר כתוצאה מהפופולריות ההולכת וגואה של קלוד קוד. לאחרונה דווח ב-The Information כי אנתרופיק מתכוננת להנפקה ברבעון הרביעי של השנה וצפויה לגייס יותר מ-60 מיליארד דולר.
1 צפייה בגלריה
עומר נבו, מייסד שותף וסמנכ"ל טכנולוגיות ב-Irregular. "פוטנציאל הנזק יכול להיות גדול מאוד"
(צילום: בן חכים)
האם הבחירה של אנתרופיק שלא לשחרר את המודל לציבור הרחב היא תעלול שיווקי לקראת ההנפקה? עומר נבו, מייסד וסמנכ"ל טכנולוגיות בחברת אבטחת ה-AI אירגולר (Irregular), מאמין שלבחירה זו יש הצדקה, שכן אם המודל יגיע לידיים הלא נכונות - התוצאות עלולות להיות הרות אסון. "כיום ישנם מעט גופים בעולם שיודעים למצוא חולשות במערכות המאובטחות ביותר בעולם. חולשות כאלה יכולות לגרום לנזק עצום, לאנשים ולתשתיות. אם גישה ליכולת כזו תתרחב וכל גוף קטן יוכל לגנוב מידע מחברות ענק, לתקוף תשתיות או להפיל שירותים חשובים - פוטנציאל הנזק יכול להיות גדול מאוד".
נבו הסביר כי "לאורך השנים האחרונות, הרבה חברות הראו תוצאות של מודלי AI בעולמות הסייבר, אבל רובן היו מוגבלות בכמה הן שימושיות בפועל: מציאה של חולשות שקשה לנצל בעולם האמיתי, תוצאות מרשימות שלא ברור שהיו לחלוטין עבודה של ה-AI, או פתרון של בעיות מרשימות אך מצומצמות. התוצאות שעליהן אנתרופיק מדווחים נראות שונות לחלוטין: קלוד מיתוס לא רק מוצא חולשות, אלא בונה ומבצע ניצול מלא שלהן באופן אוטומטי ברוב המוצרים הטכנולוגיים החשובים בעולם. כלומר, הוא לא רק מסתכל על הקוד ואומר שיש בו בעיה - אלא הולך את כל הדרך עד לנזק".
