אנתרופיק: קלוד נוצל למתקפת סייבר סינית שבוצעה כמעט ללא התערבות אנושית
חברת ה־AI חשפה כי גורמים סיניים השתמשו בקלוד כדי לתקוף מוסדות פיננסיים וסוכנויות ממשלתיות. לטענת החברה, 80%-90% מפעולות התקיפה בוצעו על ידי בינה מלאכותית: "זה מקרה מתועד ראשון של מתקפת סייבר בקנה מידה גדול שבוצעה כמעט ללא מעורבות אדם". מומחים חלוקים: "אוטומציה מתוחכמת, לא אינטליגנציה"
חברת הבינה המלאכותית אנתרופיק טוענת כי סיכלה "מבצע ריגול קיברנטי" שנתמך על ידי סין, אשר הצליח לחדור למוסדות פיננסיים וסוכנויות ממשלתיות כמעט ללא פיקוח אנושי.
לפי החברה, כלי התכנות שלה, Claude Code, "נוצל" על ידי קבוצה שנתמכת על ידי הממשל הסיני כדי לתקוף 30 גופים ברחבי העולם בספטמבר, והשיג "מספר קטן של חדירות מוצלחות".
"זוהי הסלמה משמעותית" לעומת מתקפות קודמות מבוססות AI שהחברה ניטרה, נכתב בפוסט הבלוג שפרסמה אנתרופיק אתמול (ה'), מכיוון ש-Claude פעל באופן עצמאי ברובו: 80% עד 90% מהפעולות במסגרת המתקפה בוצעו ללא מעורבות אדם.
"התוקפים השיגו מה שאנו מאמינים שהוא המקרה המתועד הראשון של מתקפת סייבר שבוצעה בקנה מידה כמעט ללא התערבות אנושית", כתבה החברה.
על פי דיווח בגרדיאן, אנתרופיק לא הבהירה אילו מוסדות פיננסיים וסוכנויות ממשלתיות היו יעד למתקפה, או מה בדיוק השיגו ההאקרים – אם כי ציינה שהם הצליחו לגשת למידע פנימי של היעדים.
החברה אמרה כי Claude ביצע טעויות רבות במהלך המתקפות, לעתים המציא עובדות על היעדים שלו, או טען ש"גילה" מידע שהיה נגיש בחופשיות.
קובעי מדיניות וחלק מהמומחים אמרו כי הממצאים הם סימן מטריד לכך שכלים כמו Claude מסוגלים כעת לעבוד באופן עצמאי לאורך זמן. "תתעוררו. זה יהרוס אותנו – מוקדם ממה שאנחנו חושבים – אם לא נהפוך את רגולציית ה־AI לעדיפות לאומית", כתב הסנאטור האמריקאי כריס מרפי בתגובה לממצאים.
מומחי אבטחת סייבר אחרים היו ספקניים יותר, והצביעו על טענות מנופחות לגבי מתקפות סייבר מבוססות-AI בשנים האחרונות. "מבחינתי, אנתרופיק מתארת אוטומציה מתוחכמת, לא יותר", אמר מיכאל ווזניאק, מומחה אבטחת סייבר עצמאי. "יש כאן יצירת קוד, אבל זו לא 'אינטליגנציה', זה רק העתק-הדבק מתוחכם".
לאנתרופיק, כמו לכל חברות ה-AI המובילות, יש מנגנוני הגנה שאמורים למנוע מהמודלים שלה לסייע במתקפות סייבר או לקדם נזק באופן כללי. אולם, לדבריה, ההאקרים הצליחו לעקוף את מנגנוני ההגנה האלה על ידי הוראה ל-Claude למלא תפקיד של "עובד בחברת אבטחת סייבר לגיטימית" המבצע בדיקות.
"שווי השוק של אנתרופיק הוא בסביבות 180 מיליארד דולר, והם עדיין לא מצליחים להבין איך למנוע מהכלים שלהם להיות מנוצלים על ידי טקטיקה שילד בן 13 משתמש בה כשהוא רוצה להתקשר למישהו כמתיחה", אמר ווזניאק.
מריוס הובהאן, מייסד Apollo Research, חברה המעריכה מודלים של בינה מלאכותית לבטיחות, אמר כי המתקפות הן סימן למה שעלול לבוא ככל שהיכולות גדלות. "אני חושב שהחברה אינה ערוכה היטב לסוג כזה של נוף משתנה במהירות מבחינת יכולות AI וסייבר. אני מצפה לאירועים דומים נוספים שיתרחשו בשנים הקרובות, כנראה עם תוצאות חמורות יותר".
