אנתרופיק: סיכלנו פעילות זדונית לפיתוח נשק ביולוגי באמצעות המודלים שלנו
נקודות עיקריות.כלכליסט AI
- חברת אנתרופיק דיווחה כי זיהתה וסיכלה ניסיונות של גורמים עוינים להשתמש במודלי הבינה המלאכותית שלה לצורך פיתוח נשק ביולוגי ותמיכה בתשתיות טרור וסייבר.
- דוח מודיעין האיומים של החברה חשף כי מודלים מסוג קלוד נוצלו על ידי גורמים המזוהים עם רוסיה ואיראן למטרות תעמולה, מעקב אחר מתנגדי משטר ופיתוח רכיבים לנשק קונבנציונלי.
- הממצאים מחזקים את הקריאות להגברת הפיקוח על התחום, כאשר מומחים מזהירים מפני תוצאות הרות אסון בעוד שגורמים פוליטיים חלוקים בנוגע להמשך קצב הפיתוח של הטכנולוגיה.
אנתרופיק מדווחת כי זיהתה וסיכלה ניסיונות לעשות שימוש במודלי הבינה המלאכותית שלה ל"פעילות זדונית" שעלולה לתמוך בפיתוח נשק ביולוגי.
לפי כתבה ב-BBC, הממצאים, שפורסמו בדוח מודיעין האיומים העדכני של החברה, מצטרפים לשורה הולכת וגדלה של אזהרות מצד חוקרי בינה מלאכותית וגורמים בתעשייה בנוגע לסיכונים הפוטנציאליים של הטכנולוגיה לאנושות. האזהרות הביאו לקריאות לפעולה, כאשר הסנטור האמריקאי ברני סנדרס דרש להשהות את פיתוח הבינה המלאכותית המתקדמת ולאסור על בינה מלאכותית-על. הנשיא דונלד טראמפ, מצדו, דחה עד כה חששות מסוג זה, ואמר ביום חמישי כי הוא מודאג "שאם לא ננצח במרוץ הבינה המלאכותית, ניקלע למצב גרוע מאוד".
החברה פרסמה את דוח מודיעין האיומים שלה אתמול (ה'). דוחות מסוג זה הפכו לנוהג קבוע בתעשיית הבינה המלאכותית, כאשר חברות מבקשות להראות כיצד הן מזהות ומסכלות ניסיונות לנצל לרעה את המודלים שלהן. בין היתר, גוגל כתבה ביום שלישי כי גורם מסוים ניסה לגייס את כלי הבינה המלאכותית שלה, ג'מיני, כדי לקבל מדריך טכני מלא ומפורט לסינתזה של חומרים ביולוגיים שיועדו לשמש כנשק. לפי הדוח של אנתרופיק, גם קלוד מתוצרתה שימש גורמים המזוהים עם קמפיין סייבר שמקורו ברוסיה, וכן מוסד תעמולה איראני. מקרים מדאיגים נוספים שהתגלו בשמונת החודשים האחרונים נעו בין אפליקציות היכרויות מזויפות והונאות רשתות Wi-Fi במלונות, ועד למערכות מעקב שנועדו לזהות מתנגדי משטר. אנתרופיק האשימה גם חברות בינה מלאכותית סיניות בניסיון לשכפל את יכולותיו של קלוד.
הדוח המקיף מפרט מקרים שבהם גורמים החשודים כפועלים מטעם מדינות, עבריינים, ספקי תוכנות ריגול, מוסדות תעמולה ממשלתיים ויחידים בעלי מניעים פוליטיים, עשו שימוש לרעה בטכנולוגיה של החברה. לדברי אנתרופיק, בין דצמבר 2025 לאוגוסט 2026 סוכל "שימוש זדוני" במודלים Claude Haiku, Sonnet ו-Opus. אף אחד ממקרי השימוש לרעה לא כלל את Claude Fable או את דגמי Mythos רבי העוצמה, למעט מקרה בודד של אימון מודלים קטנים יותר באמצעות מודלים גדולים ויקרים יותר.
מעבר לזיהוי שימוש במודלים שלה למתקפות סייבר ומבצעי השפעה, מעקב, הונאות ופיתוח נשק, אנתרופיק ציינה כי חסמה מדענים שהשתמשו בבינה המלאכותית שלה באופן שעלול לתמוך בפיתוח נשק ביולוגי. הדוח הדגיש "חמישה מקרי מבחן של גורמים שהשתמשו במודלים שלנו באופן שעלול לתמוך בפיתוח נשק ביולוגי".
שימוש לרעה בתחום הביולוגי, כך נכתב בדוח, הוא "אחד הסיכונים החמורים ביותר הנובעים ממודלים מתקדמים של בינה מלאכותית". ללא אמצעי הגנה מתאימים, יכולות כאלה "עלולות להביא לתוצאות הרות אסון", נכתב. אנתרופיק הוסיפה כי "אותו מידע שיכול לשמש לפיתוח נשק ביולוגי יכול לשמש גם, למשל, לפיתוח חיסון או תרופה למחלה".
ג'ייקוב קליין, ראש תחום מודיעין האיומים באנתרופיק, אמר ל"ניו יורק טיימס" כי מדובר ב"מצב מורכב ורב-גוני להפליא". לדבריו, "לא מדובר במישהו שאומר, כמו בקומיקס, 'אני רוצה לבנות נשק ביולוגי כדי להרוג את כולם'".
הדוח ציין גם שישה מקרים שבהם נעשה שימוש בקלוד "לפיתוח תוכנה עבור נשק קונבנציונלי, כולל כלי ירייה, טילים, כטב"מים, פצצות ותחמושת נוספת, וכן מערכות כוונון ובקרה המפעילות אותם".
