"קרטון חלב מפוקח יותר": נשיא מיקרוסופט דורש רגולציה על AI
בריאיון לפודקאסט של ה-BBC אמר בראד סמית כי צריך "להתחיל עוד היום" לפקח על הבינה המלאכותית, ולכונן מערכת חוקים עולמיים, שיכללו חובה לעדכן את מי שסוכני AI פרצו לו למערכת, והקמת גוף ממשלתי שיקבע מתי ובאילו נסיבות יש לאשר השקת מוצר חדש. "כיום מכונת הכביסה שלכם נתונה תחת יותר חוקי בטיחות מאשר AI", אמר
נשיא מיקרוסופט קורא להגדלת הפיקוח על ה-AI. "כיום מכונת הכביסה שלכם נתונה תחת יותר חוקי בטיחות מאשר AI", אמר בראד סמית בריאיון לפודקאסט של ה-BBC. "כל קרטון חלב שרואים בסופר מציית ליותר כללי בטיחות ופיקוח".
לכן הוא קרא לכינון מערכת חוקי בטיחות עולמיים לטכנולוגיה, שיכללו גם חובה חוקית לעדכן את ה"קורבן" אם סוכני AI שיצאו משליטה פרצו למערכות שלו. סמית גם חושב שרצוי לקבוע מתי ובאילו נסיבות מפקחים חיצוניים צריכים לאשר השקה של מוצר AI חדש.
"כשמסתכלים על סוכני בינה מלאכותית שיצאו משליטת בני האדם, ועל מודלים רבי עוצמה כל כך, עד שהם מסכנים את אבטחת הסייבר העולמית, הייתי אומר שהרגע הזה הגיע", אמר. "בואו נדבר ברוגע, אולי אפילו בקול שקט, אבל בנחישות, ונתחיל לקרב בין אנשים ולגבש הסכמה רחבה. אני מקווה שזה התפקיד שנוכל למלא כחברה".
הדברים הללו מנוגדים לתפיסתו של נשיא ארה"ב דונלד טראמפ, שמאמין כי הסקטור צריך לפקח על עצמו וכי רגולציה ממשלתית רק תעניק יתרון ליריבות הסיניות. עם זאת, סמית מצטרף בכך לרשימה גדלה והולכת של בכירים בתעשייה עצמה שקראו לאחרונה להגברת הפיקוח, ובראשם מנכ"ל אנתרופיק דריו אמודיי.
בריאיון כינה סמית את ה-AI "גם כלי וגם נשק", שיש צורך דחוף לפקח עליו. "עלינו להתחיל עוד היום", אמר. לדבריו, חברות זקוקות ל"בלמי חירום", שיעצרו או יאטו את הטכנולוגיה אם היא יוצאת משליטה. סמית מאמין גם שצריכה להיות חובה חוקית שתחייב חברות לפרסם "דוחות תקרית" ולעדכן את הקורבנות אם סוכני AI פרצו למערכות שלהם. הצעה נוספת שהעלה היא להקים גוף ממשלתי חיצוני שיבצע הערכות למוצרי AI חדשים.
"אנחנו יודעים כיצד לעשות את זה למוצרים אחרים", אמר סמית. "עלינו להתבסס על הידע הזה ולחשוב כיצד ליישם אותו על AI".
