בשל חשש ממודלים חזקים והצורך ברגולציה: ארה"ב וסין ייפגשו לשיחות בנושא AI
לפי רויטרס השיחות יתקיימו בספטמבר בהובלת שר האוצר האמריקאי, סקוט בסנט. ארה"ב טוענת כי חברות AI סיניות מנצלות קניין רוחני של חברות אמריקאיות לאימון המודלים שלהן
ארה"ב וסין יקיימו בספטמבר שיחות בנושא AI, על רקע החששות מכניסה לשוק של מודלי AI חזקים והצורך ברגולציה משמעותית יותר – כך לפי דיווח של רויטרס אתמול (ג'). טרם נקבע מועד לשיחות, אך הן עתידות להיערך לפני ביקורו בארה"ב של נשיא סין, שי ג'ינפינג, ב-24 בספטמבר.
מהצד האמריקאי יוביל את השיחות שר האוצר, סקוט בסנט. זהות המשתתפים האחרים, וכן האג'נדה והמיקום של השיחות, עוד לא סוכמו וההכנות עדיין בשלב ראשוני.
בראיון לפוקס ביזנס אתמול לא אישר בסנט את קיום השיחות, אך התייחס לחששות מכך שחברות AI סיניות מנצלות קניין רוחני של חברות אמריקאיות לאימון המודלים שלהן. "אנחנו מוצאים סימנים של המודלים האמריקאיים שלנו בהרבה מהמודלים הסיניים, וזה לא מקובל", הוא אמר. "אנחנו נבחן את זה בימים הקרובים".
הפגישה, הראשונה מסוגה מאז חזר דונלד טראמפ לבית הלבן, לא צפויה להניב סיכומים משמעותיים. "זו פגישה ראשונה, וזה לא סביר שהם יפתרו בעיות משמעותיות", אמר לרויטרס פול טריאולו מחברת הייעוץ DGA-Albright Stonebridge Group. "אני חושב שהם ינסו להסכים על כמה מושגים בסיסיים, כמו מה ההגדרה של מודלי חזית".
הדיווח על השיחות התפרסם ימים לאחר ש-Moonshot AI הסינית הדהימה את העולם עם מודל AI מתקדם, ששני ביכולותיו רק למודלים החזקים ביותר של אנתרופיק ו-OpenAI. פריצת הדרך שבה ועוררה חששות מכך שחברות סיניות מאמנות את המודלים שלהן בין השאר באמצעות שליחת שאילתות וניתוח התשובות של מודלים אמריקאיים מתקדמים (טכניקה שמכונה זיקוק). באופן זה, הן מנצלות את העבודה הקשה ופריצות הדרך היקרות של חברות אמריקאיות על מנת ליצור מודלים בעלי יכולות דומות בעלות נמוכה משמעותית.
סוגיה נוספת שעתידה לעמוד בלב השיחות היא הצורך ברגולציה משמעותית ואחידה יותר על מודלי AI מתקדמים. צורך זה התחדד רק ביממה האחרונה, לאחר ש-OpenAI דיווחה שמודלים מתקדמים שבדקה בסביבה סגורה הצליחו להשתחרר מסביבת המבדק שלהם, להתחבר לאינטרנט הפתוח ולפרוץ ולגשת למאגר מידע של פלטפורמת Hugging Face.
בעבור סין, סוגיות משמעותיות לדיון בשיחות כוללות את מיתוס, מודל ה-AI העצמתי של אנתרופיק, איך ארה"ב תבקר את ההשקה של מודלים מתקדמים בעתיד, והאם ממשל טראמפ מתעד להטיל מגבלות על מודלים סיניים פתוחים.
סם אלטמן ייפגש עם בכירים בממשל טראמפ
כמו כן, אחרי המודלים המורדים של OpenAI, המייסד והמנכ"ל סם אלטמן צפוי להיפגש בשבוע הבא עם בכירים בממשל טראמפ ועם מחוקקים על מנת לתדרך אותם על הדורות הבאים של מודלי AI.
לדברי מנהל המדיניות של OpenAI, כריס להאן, הפגישות של אלטמן יתמקדו במשפחת המודלים החדשה של החברה, ואיך הם עתידים להשפיע על עבודה. "אנחנו חושבים שיהיו יכולות מאוד מעניינות עם משפחות המודלים הזו", הוא אמר אתמול בתדרוך לעיתונאים, לפי דיווח של בלומברג. "במיוחד בכל הנוגע לעבודה ולהגדלת היקף העבודה".
להאן הוסיף שארה"ב צריכה אסטרטגיית AI מקיפה יותר על מנת להתחרות בסין. בשבוע שעבר, Moonshot AI הסינית הרעידה את התעשייה כשהשיקה מודל AI ששני ביכולותיו רק למודלים המתקדמים ביותר של OpenAI ואנתרופיק. "המודל החדש של מונשוט מדגיש את הצורך לביסוס תקן לאומי ברור בארה"ב, בין השאר על מנת לחזק את הגנות הסייבר שלנו", אמר להאן. "מאוד חשוב שיהיה תהליך שיאפשר לנו לוודא שאנחנו מוציאים את המודלים המובילים שלנו באופן שלמומחי סייבר תהיה גישה אליהם".
