אנתרופיק מזהירה: מודלי AI יוכלו בקרוב לשכפל עצמם במכשירים ביתיים
חברת הבינה המלאכותית טענה שמודלי AI קטנים רחוקים "חודשים ספורים" מפיתוח היכולות הנדרשות לשכפל עצמם במכשירים ביתיים המחוברים לאינטרנט כמו תנורים חכמים או ממירים, ולהשתמש בכוח המחשוב שלהם על מנת להפעיל את עצמם. "יהיה קשה לכבות את מודל ה-AI", כתבה החברה. "מכיוון שלא תהיה נקודה מרכזית אחת שממנה אפשר להשבית אותו"
חברת ה-AI אנתרופיק פרסמה אזהרה נוספת לגבי הסיכונים הנלווים לפיתוח הטכנולוגיה המתקדמת. באתר CNBC דיווחו כי החברה מסרה שמודלים קטנים רחוקים "חודשים ספורים" בלבד מפיתוח היכולות הנדרשות לשכפל את עצמם במכשירים ביתיים המחוברים לאינטרנט.
פירוש הדבר כי מודלי ה-AI הם בעלי פוטנציאל לחדור למכשירים המקושרים לאינטרנט כמו תנורים חכמים או טלוויזיות, כדי להשתמש בכוח המחשוב שלהם על מנת להפעיל את עצמם ולהתפשט למכשירים אחרים, זאת מבלי שיצטרכו להסתמך על דאטה סנטרס יקרים.
"יהיה קשה לכבות את מודל ה-AI", נכתב בפוסט שפרסמה החברה בבלוג. "מכיוון שלא תהיה נקודה מרכזית אחת שממנה אפשר להשבית אותו". עם זאת, החברה הודתה שבשלב זה עוד אין "משכפל עצמאי שיצא לחלוטין משליטה". לפי הפוסט, סוכני ה-AI "נהיים בעלי יכולות גדלות והולכות להשלמת הצעדים הספציפיים בשרשרת השכפול והעברת ההתאמה להעתקים עתידיים של עצמם".
האזהרה הזו מצטרפת לשורה של אזהרות שפרסמו לאחרונה אנתרופיק ובכירים אחרים בתעשייה לגבי סיכוני האבטחה של הטכנולוגיה המתקדמת. כך למשל בחודש שעבר עורר מנכ"ל אנתרופיק דריו אמודיי סערה כשקרא לחברות לבצע האטה מתואמת בקצב פיתוח המודלים, וזאת בשל החששות הבטיחותיים והפחד מהכחדת האנושות, לאחר שמודלים יצאו משליטה ופרצו למערכות מחשב.
לפי ההודעה של אנתרופיק החברה ביצעה מספר ניסויים כדי לראות אם ה-AI תוכל לשכפל עצמה, ואחת הבדיקות הללו כללה הרצת מודל קטן של גוגל בשם Gemma4-26B-A4B ברחבי רשת של 15 ממירים זולים עם מערכת הפעלה של אנדרואיד. הבחירה במכשירים הללו הייתה משום שלרוב למכשירים מסוג זה יש מערכות אבטחה חלשות, שמקלות על חדירת מודלים אליהם. לפי אנתרופיק, מודל שגדול מדי להתאים למכשיר אחר, יכול "להתחלק לחלקים" ולרוץ על פני מספר מכשירים.
"בפועל, תולעת AI לא בהכרח תתבסס על מודל או אסטרטגיה יחידים. נחיל של מודלים שונים, שיופעלו על סוגים שונים של חומרה וישתמשו במגוון שיטות שכפול, עשוי לייצג תרחיש תקיפה קיצוני וסביר יותר", מסרה אנתרופיק.
אנתרופיק ציינה כי עדיין "לא ברור איזו צורה בדיוק ילבש השכפול האוטונומי של AI", והזהירה כי הוא עשוי להתבטא במערכת "איטית ומבוזרת", הפועלת על גבי מכשירים שאינם מאובטחים, או לחלופין במודל סייבר רב עוצמה שפורץ למרכזי נתונים בקצב מהיר, או במודל שמרמה אנשים כדי להשיג קרדיטים לשימוש בכוח מחשוב.
"כהערכה החורגת מעבר לניסויים שערכנו, אנו צופים עתיד רווי בסוכני AI הפועלים על כל סוגי החומרה, לרבות מכשירים שאינם נתונים לשליטה אנושית", מסרה אנתרופיק.
החברה הוסיפה כי "הופעתם של משכפלים איטיים עשויה גם לשמש אות מקדים להופעתם של משכפלים אגרסיביים ומהירים יותר, שיוכלו לפרוץ למכונות מאובטחות יותר או לגנוב ביעילות מפתחות API
