שימו לב, אתר זה עושה שימוש בעוגיות על מנת להבטיח לך את חוויית הגלישה הטובה ביותר. קראו עוד הבנתי
חדשות טכנולוגיה

השקעה של אלון מאסק תממן פיתוח מוסר אצל מחשבים ורובוטים

בעוד מומחי טכנולוגיה מזהירים מפני סכנות האינטליגנציה המלאכותית, השקיע היזם 10 מיליון דולר במוסד מחקר שיממן 37 פרויקטים שונים בתחום - שנועדו לפתח מגבלות מוסריות במוחות סינתטיים

עומר כביר 10:4605.07.15
מכון המחקר Future of Life Institute הודיע בשבוע שעבר על חלוקת 37 מענקים בסכום כולל של כשבעה מיליון דולר לקבוצות מחקר מכל העולם שעוסקות בהבטים שונים של בינה מלאכותית. המענקים התאפשרו הודות לתרומה בסך 10 מיליון, שהיזם אלון מאסק העביר למכון בינואר.
"תוכנית המענקים נועדה לקדם 'בינה מלאכותית יציבה ומועילה'”, נכתב בהודעה לעיתונות שפרסם המכון. “התוכנית הושקה בשעה שדמויות מוכרות רבות, ובהן ביל גייטס, אלון מאסק וסטיבן הוקינג, הביעו חששות מכך שבעתיד שימוש במערכות בינה מלאכותית יוביל לתוצאות בלתי צפויות והרסניות. הצוותים הזוכים, שנבחרו מבין 300 מועמדים מכל העולם, יחקרו מגוון סוגיות בתחומי מדעי המחשב, המשפט, המדיניות הציבורית, הכלכלה ותחומים אחרים שרלוונטיים להתפתחות בינה מלאכותית".

 

אלון מאסק אלון מאסק

 

בין המחקרים שזכו למענק נכללים פרויקטים שמפתחים שיטות שיאפשרות למערכות בינה מלאכותית ללמד מה בני אדם מעדיפים תוך צפייה בהתנהגותם, פרויקט שנועד לבדוק איך ניתן לשמר את הרצונות של מערכות סופר-תבוניות כך שיהלמו את ערכי המוסר של בני האדם, פרויקט שמפתח מערכות בינה מלאכותית שיסבירו את החלטותיהן לבני אדם, פרויקט שבוחן איך לשמר את השליטה האנושת במערכות נשק מבוססות בינה מלאכותית ופרויקט שבוחן מדיניות ציבורית שרלוונטית לבינה מלאכותית.

 

מוסר? מכונות יכולות ללמוד מוסר? מכונות יכולות ללמוד

 

ב-FLI ערים לסמיכות שבין פרסום הזוכים במענקים שלהן לבין עלייתו למסכים של הסרט העדכני בסדרת שליחות קטלנית, ומדגישים את החשיבות שבהפרדה בין עובדה לבדיון.

 

“הסכנה בתרחיש של שליחות קטלנית היא לא שהוא יתממש, אלא שהוא מסיח את דעתנו מהנושאים האמיתיים שרלוונטיים לבינה מלאכותית", אמר נשיא המכון, מקס טגמרק. “אנחנו נשארים ממוקדים ו-37 הצוותים שזכו למענקים יעזרו לפתור בעיות אמיתיות".

 

רוח חדשה בתחום ה-AI

 

אחד ממקבלי המענקים, טום דיטריך מהאיגוד לקידום בינה מלאכותית (Association for the Advancement of Artificial Intelligence), הסביר איך הפרויקט שלו, שמפתח שיטות אבחון עצמי למערכות בינה מלאכותית לצורך התמודדות עם מצבים לא מוכרים, שובר את התבנית שמקובלת במחקר: “בימים הראשונים, מחקר הבינה המלאכותית התמקד במשתנים ידועים באמצעות התמודדות עם בעיות כמו משחק שחמט או תכנון עולם קוביות, שבהן כל המשתנים היו ידועים במדויק".

 

"החל משנות ה-80 של המאה הקודמת, מחקר הבינה המלאכותית התמקד במשתנים שתכונותיהם אינן ידועות, באמצעות שימוש בהתפלגות כדי לגלות ולמדוד את הסבירות של חלופות אפשריות. המענק הנוכחי יאפשר לנו לקדם מחקר שבו גם המשתנים עצמם אינם ידועים: איך מערכת בינה מלאכותית יכולה לפעול בצורה זהירה ושמרנית בעולם שמאוכלס במשנתים שאינם ידועים, היבטים שמעצבי המערכת לא צפו מלכתחילה?”

בטל שלח
    לכל התגובות
    x