השקעה של אלון מאסק תממן פיתוח מוסר אצל מחשבים ורובוטים
בעוד מומחי טכנולוגיה מזהירים מפני סכנות האינטליגנציה המלאכותית, השקיע היזם 10 מיליון דולר במוסד מחקר שיממן 37 פרויקטים שונים בתחום - שנועדו לפתח מגבלות מוסריות במוחות סינתטיים
- גוגל פיתחה מחשב שיודע לצייר בהתבסס על דימיון מלאכותי
- בכיר בגוגל: רובוטים לא ישמידו אותנו, חידלו מלפחד מבינה מלאכותית
- האינטליגנציה המלאכותית של פייסבוק
אלון מאסק בין המחקרים שזכו למענק נכללים פרויקטים שמפתחים שיטות שיאפשרות למערכות בינה מלאכותית ללמד מה בני אדם מעדיפים תוך צפייה בהתנהגותם, פרויקט שנועד לבדוק איך ניתן לשמר את הרצונות של מערכות סופר-תבוניות כך שיהלמו את ערכי המוסר של בני האדם, פרויקט שמפתח מערכות בינה מלאכותית שיסבירו את החלטותיהן לבני אדם, פרויקט שבוחן איך לשמר את השליטה האנושת במערכות נשק מבוססות בינה מלאכותית ופרויקט שבוחן מדיניות ציבורית שרלוונטית לבינה מלאכותית.
מוסר? מכונות יכולות ללמוד
ב-FLI ערים לסמיכות שבין פרסום הזוכים במענקים שלהן לבין עלייתו למסכים של הסרט העדכני בסדרת שליחות קטלנית, ומדגישים את החשיבות שבהפרדה בין עובדה לבדיון.
“הסכנה בתרחיש של שליחות קטלנית היא לא שהוא יתממש, אלא שהוא מסיח את דעתנו מהנושאים האמיתיים שרלוונטיים לבינה מלאכותית", אמר נשיא המכון, מקס טגמרק. “אנחנו נשארים ממוקדים ו-37 הצוותים שזכו למענקים יעזרו לפתור בעיות אמיתיות".
רוח חדשה בתחום ה-AI
אחד ממקבלי המענקים, טום דיטריך מהאיגוד לקידום בינה מלאכותית (Association for the Advancement of Artificial Intelligence), הסביר איך הפרויקט שלו, שמפתח שיטות אבחון עצמי למערכות בינה מלאכותית לצורך התמודדות עם מצבים לא מוכרים, שובר את התבנית שמקובלת במחקר: “בימים הראשונים, מחקר הבינה המלאכותית התמקד במשתנים ידועים באמצעות התמודדות עם בעיות כמו משחק שחמט או תכנון עולם קוביות, שבהן כל המשתנים היו ידועים במדויק".
"החל משנות ה-80 של המאה הקודמת, מחקר הבינה המלאכותית התמקד במשתנים שתכונותיהם אינן ידועות, באמצעות שימוש בהתפלגות כדי לגלות ולמדוד את הסבירות של חלופות אפשריות. המענק הנוכחי יאפשר לנו לקדם מחקר שבו גם המשתנים עצמם אינם ידועים: איך מערכת בינה מלאכותית יכולה לפעול בצורה זהירה ושמרנית בעולם שמאוכלס במשנתים שאינם ידועים, היבטים שמעצבי המערכת לא צפו מלכתחילה?”
