אנתרופיק מאשימה: עליבאבא שאבה מידע מקלוד לשיפור מודלי ה-AI שלה
נקודות עיקריות.כלכליסט AI
חברת אנתרופיק מאשימה את עליבאבא בשימוש בעשרות אלפי חשבונות מזויפים לשאיבת מידע מהצ'טבוט קלוד לצורך שיפור מודלי ה-AI הסיניים.
במכתב לממשל האמריקאי, נחשף כי בוצעו מיליוני אינטראקציות בשיטת המכונה 'זיקוק', המאפשרת פיתוח מודלים יריבים בעלות נמוכה ותוך עקיפת מנגנוני בטיחות.
המתקפה מדגישה את המאמץ המערכתי של חברות סיניות לנכס יכולות טכנולוגיות אמריקאיות מתקדמות ללא השקעה במחקר ופיתוח מקוריים.
בעקבות חומרת הממצאים, מקודמת חקיקה דו-מפלגתית בקונגרס להטלת סנקציות והכנסת חברות מעורבות לרשימות שחורות במטרה להגן על האינטרסים הלאומיים.
ענקית הסחר המקוון הסינית עליבאבא השתמשה בעשרות אלפי חשבונות מזויפים כדי לשאוב מידע מהצ'טבוט קלוד לשיפור מודלי ה-AI שהיא מפתחת – כך טוענת מפתחת הצ'טבוט, אנתרופיק, במכתב ששלחה לגורמים בבית הלבן ולסנטורים.
לדברי החברה, המתקפה, שבוצעה על ידי מעבדת ה-AI של עליבאבא, Qwen, התמקדה ביכולות המוערכות ביותר של קלוד, ובהן הנדסת תוכנה וסוכני AI. מדובר בניסיון הגדול ביותר של חברה סינית שזיהתה אנתרופיק לנצל באופן לא ראוי יכולות של מודל AI אמריקאי.
בפברואר הודיעה אנתרופיק שזיהתה שדיפסיק ושתי חברות סיניות אחרות חברו לקלוד עם חשבונות מזויפים על מנת ליישם טכניקה שמכונה "זיקוק" (distillation), במסגרתה מודל מתקדם פחות מאומן באמצעות פלטים של מודל חזק יותר. במקרה זה, שלוש החברות ביצעו 16 מיליון אינטראקציות עם קלוד באמצעות 24 אלף חשבונות מזויפים.
המתקפה של עליבאבא לבדה הייתה גדולה יותר, ועשתה שימוש ב-25 אלף חשבונות שביצעו בין אפריל ליוני 28.8 מיליון אינטראקציות. לפי דיווח של בלומברג, אנתרופיק מתריעה במכתב שעליבאבא וחברות סיניות אחרות עושות שימוש מערכתי ולא מאושר בתשובות של מודלים אמריקאיים על מנת לפתח מודלים יריבים בשבריר מהעלות, כאשר התוצאה היא מודלים ללא מנגנוני הבטיחות שיש למודלים האמריקאיים.
"מתקפות הזיקוק מבוצעות באופן אסור, מערכתי ובקנה מידה תעשייתי על מנת לקצור יכולות AI אמריקאיות ממעבדות חזית, ולארוז אותן מחדש כשלהן מבלי עלויות האימון והמו"פ שכרוכות בפיתוח מודלי חזית אמריקאיים", האשימה אנתרופיק במכתב. "יש להיאבק בזיקוק באמצעות פעולה מתואמת של הממשלה והתעשייה".
בגבעת הקפיטול כבר מבצעים מהלכים על מנת להיענות לקריאת אנתרופיק: הסנטורים ביל האגרתי (רפובליקני) ואנדי קים (דמוקרטי) הציגו תיקון חקיקה שיקבע שכל חברה סינית שתעשה שימוש לא ראוי במודל AI אמריקאי על מנת לאמן את המודלים שלה תיכנס לרשימה שחורה או תהיה נתונה לסנקציות. תיקון דומה הוצג בבית הנבחרים. בשלב זה, לא ברור האם יש לתיקונים תמיכה מספקת.
