אנתרופיק מאשימה: עליבאבא שאבה מידע מקלוד לשיפור מודלי ה-AI שלה
לטענת אנתרופיק, מעבדת ה-AI של הענקית הסינית, Qwen, השתמשה ב-25 אלף חשבונות מזויפים כדי לבצע 28.8 מיליון אינטראקציות עם קלוד בין אפריל ליוני, בניסיון לזקק את יכולותיו ולפתח מודל מתחרה בעלות נמוכה. בקפיטול כבר מקדמים תיקון חקיקה שיכניס חברות סיניות שינצלו לרעה מודלים אמריקאיים לרשימה שחורה
ענקית הסחר המקוון הסינית עליבאבא השתמשה בעשרות אלפי חשבונות מזויפים כדי לשאוב מידע מהצ'טבוט קלוד לשיפור מודלי ה-AI שהיא מפתחת – כך טוענת מפתחת הצ'טבוט, אנתרופיק, במכתב ששלחה לגורמים בבית הלבן ולסנטורים.
לדברי החברה, המתקפה, שבוצעה על ידי מעבדת ה-AI של עליבאבא, Qwen, התמקדה ביכולות המוערכות ביותר של קלוד, ובהן הנדסת תוכנה וסוכני AI. מדובר בניסיון הגדול ביותר של חברה סינית שזיהתה אנתרופיק לנצל באופן לא ראוי יכולות של מודל AI אמריקאי.
בפברואר הודיעה אנתרופיק שזיהתה שדיפסיק ושתי חברות סיניות אחרות חברו לקלוד עם חשבונות מזויפים על מנת ליישם טכניקה שמכונה "זיקוק" (distillation), במסגרתה מודל מתקדם פחות מאומן באמצעות פלטים של מודל חזק יותר. במקרה זה, שלוש החברות ביצעו 16 מיליון אינטראקציות עם קלוד באמצעות 24 אלף חשבונות מזויפים.
המתקפה של עליבאבא לבדה הייתה גדולה יותר, ועשתה שימוש ב-25 אלף חשבונות שביצעו בין אפריל ליוני 28.8 מיליון אינטראקציות. לפי דיווח של בלומברג, אנתרופיק מתריעה במכתב שעליבאבא וחברות סיניות אחרות עושות שימוש מערכתי ולא מאושר בתשובות של מודלים אמריקאיים על מנת לפתח מודלים יריבים בשבריר מהעלות, כאשר התוצאה היא מודלים ללא מנגנוני הבטיחות שיש למודלים האמריקאיים.
"מתקפות הזיקוק מבוצעות באופן אסור, מערכתי ובקנה מידה תעשייתי על מנת לקצור יכולות AI אמריקאיות ממעבדות חזית, ולארוז אותן מחדש כשלהן מבלי עלויות האימון והמו"פ שכרוכות בפיתוח מודלי חזית אמריקאיים", האשימה אנתרופיק במכתב. "יש להיאבק בזיקוק באמצעות פעולה מתואמת של הממשלה והתעשייה".
בגבעת הקפיטול כבר מבצעים מהלכים על מנת להיענות לקריאת אנתרופיק: הסנטורים ביל האגרתי (רפובליקני) ואנדי קים (דמוקרטי) הציגו תיקון חקיקה שיקבע שכל חברה סינית שתעשה שימוש לא ראוי במודל AI אמריקאי על מנת לאמן את המודלים שלה תיכנס לרשימה שחורה או תהיה נתונה לסנקציות. תיקון דומה הוצג בבית הנבחרים. בשלב זה, לא ברור האם יש לתיקונים תמיכה מספקת.
