אנתרופיק מציגה: שלושה מדדים לניטור קצב פיתוח ה-AI
נקודות עיקריות.כלכליסט AI
- חברת אנתרופיק הציגה שלושה מדדים חדשים לניטור קצב פיתוח הבינה המלאכותית, במטרה להגביר את השקיפות ולאפשר פיקוח ציבורי על התקדמות הטכנולוגיה.
- המדדים מתמקדים בניטור אוטונומיות המודלים במחקר ופיתוח, פיקוח על פעולות של סוכני AI והקצאת משאבי מחשוב לצורכי בטיחות.
- היוזמה מגיעה בעקבות קריאתו של מנכ"ל החברה להאטה מתואמת בפיתוח המודלים, הצעה שזכתה לתמיכת בכירים כמו סם אלטמן ואילון מאסק אך נדחתה על ידי מנכ"לי אנבידיה ומטא.
אנתרופיק, המפתחת של קלוד, שיתפה שלושה מדדים חדשים שלטענתה יעזרו לחברות AI לנטר את קצב פיתוח הטכנולוגיה, כך לפי דיווח ב-CNBC. הצעד הזה יצא לדרך ימים ספורים לאחר שהמנכ"ל דריו אמודיי עורר סערה כשקרא - יחד עם בכירים אחרים בתעשייה - להאטה מתואמת של קצב פיתוח המודלים.
החברה פרסמה פוסט שבו פירטה כי היא מבצעת ניטור בתוך החברה עצמה על המו"פ בהובלת AI, על הפיקוח על סוכני AI ועל הקצאת כוח מחשוב. היא שיתפה במתודולוגיה על מנת לעודד חברות נוספות לעשות זאת גם כן. המדדים שפרסמה מבוססים על תוכנית ההאטה בשלושה שלבים שפרסם אמודיי ביום שבת.
"בעוד העולם שוקל להאט את קצב פיתוח המודלים המתקדמים, עלינו לעשות ככל האפשר לצמצם את הפער בין מה שהמעבדות המתקדמות יודעות ומה שידוע לציבור", נכתב בהודעה שפרסמה אנתרופיק. "פירוש הדבר מדידה טובה יותר של פיתוח ה-AI, דיווח פומבי על הפיתוח והענקת הזדמנות לציבור להחליט כיצד להשתמש במידע הזה".
קריאתו של אמודיי להאטת קצב הפיתוח הצליחה לאחד רבים בתעשייה, בהם מנכ"ל החברה היריבה OpenAI, סם אלטמן, מנכ"ל SpaceX, אלון מאסק ויו"ר דיפמיינד של גוגל, דניס הסביס. מנגד, ג'נסן הואנג, מנכ"ל אנבידיה ומארק צוקרברג, מנכ"ל מטא, דחו את הקריאות וטענו כי זה התפקיד של כל חברה לשמור על בטיחות המודלים שלה.
לפי אנתרופיק, המדד הראשון שהציגה עזר לקבוע שמודלי קלוד שלה "לא פועלים בצורה אוטונומית לגמרי" בכל תחומי עבודת המחקר והפיתוח שבדקה. המדד השני כלל בניית מערכת שנועדה לפקח על הפעולות שמבצעים סוכני AI ולהתערב בהן. לפי החברה, בכל רגע נתון פועלים כ-30 אלף סוכני AI שעסקו במחקר ובהנדסה בפלטפורמה הפנימית הנפוצה ביותר שלה.
במסגרת המדד השלישי, אנתרופיק מדדה "תמונת מצב" של השימוש שלה בכל משאבי המחשוב בתאריכים 13 עד 20 ביולי. החברה אמרה כי מצאה שכ-6% ממשאבי המחשוב שהוקצו למחקר ולפיתוח בתחום ה-AI הופנו לבטיחות. לדבריה, כ-12% ממשאבי המחשוב שהוקצו למחקר ופיתוח "המונע על ידי AI" הופנו לבטיחות.
לטענת אנתרופיק, המדדים הללו הם המתאימים במיוחד להצגת האופן שבו מודלים נבנים, וכי הם יהוו צעד משלים למבחני היכולות, שמציגים "מה המודלים מסוגלים לעשות".
"אנו מקווים לשמש דוגמה לשקיפות הזו באמצעות פרסום המדידות הללו, ונמשיך לעשות זאת", כתבה אנתרופיק.
