• תפריט
מוסף 21.06.2018
האדר מוסף שבועי 21.6.18

"דברים שקשים לאנשים קלים למכונות, ולהפך. זה פרדוקס ה־AI"

ד"ר אורן עציוני הוא חוקר בינה מלאכותית פורץ דרך, מנהל מכון מחקר גדול בתחום, שואף להציל חיים, וחושב שאנחנו עוד רחוקים מאוד ממכונות שיכולות לחשוב לבד

ד"ר אורן עציוני הוא מנכ"ל מכון אלן לבינה מלאכותית בסיאטל, מאז הקמתו ב־2014. המכון השאפתני, שמבקש "לתרום לאנושות באמצעות מחקר והנדסת בינה מלאכותית", הוקם וממומן בידי המיליארדר פול אלן, ממייסדי מיקרוסופט, שבפברואר הודיע כי ישקיע בו עוד 125 מיליון דולר וכך יכפיל את תקציבו לשלוש השנים הבאות. עציוני (54) הוא בן לניצולי שואה; אביו הוא פרופ' אמיתי עציוני, סוציולוג בעל שם שבין השאר היה יועץ לממשל של ג'ימי קרטר. עציוני נולד בארצות הברית, גדל חלק מהשנים בישראל, למד מדעי המחשב בהרווארד, השלים דוקטורט בקרנגי מלון והיה למומחה בינה מלאכותית (AI) עתיר פרסומים ופרסים על "מחקריו המכוננים", ובמשך כ־20 שנה הרצה וחקר באוניברסיטת וושינגטון. במקביל עמד מאחורי שורת מיזמים עסקיים שהתבססו על AI וביג דאטה, כולל כאלה שנמכרו למיקרוסופט ואיביי (Farecast ו־Decide.com). הוא מבקר בישראל באופן קבוע, ובחודש שעבר השתתף בכנס של תוכנית הפכ"מ (פילוסופיה, כלכלה, מדעי המדינה) באוניברסיטה העברית, שבמסגרתו התקיים חלק מהראיון.

איך מכון המחקר מתחבר לקריירת היזמות שלך?

"מכון אלן הוא ארגון ללא מטרות רווח, אבל אני חושב עליו כעל מוסד יזמי: אנחנו מנסים לנוע מהר, לעשות דברים חדשים, לקבוע מטרות ומדדים ברורים, אנחנו פשוט עושים את זה בתחום המחקר. יש לנו אינקובטור עסקי, ויש חברות שקמו כספין אוף של המכון".

 

איך נוצר החיבור שלך עם פול אלן?

"בסיאטל הוא ענק: יש לו קבוצות פוטבול וכדורגל, נדל"ן, מוזיאונים, פסטיבל מוזיקה, הוא מממן מחקר, מימן חלק מהמחקר שלי ושל עמיתיי באוניברסיטת וושינגטון. הוא החליט להקים מרכז ל־AI, פנה למועמדים, ובכללם אני, ומהר מאוד התברר שזו הזדמנות של פעם בחיים: הוא ואני ראינו עין בעין את מה שאנחנו רוצים לעשות".

 

ומה רציתם לעשות?

"לי היתה קריירה אקדמית, אבל רציתי יותר אימפקט, והוא לא רצה להקים עוד מחלקה באוניברסיטה, הוא רצה אימפקט גדול בתחום ה־AI, במיוחד הסמנטית, כזאת שמבינה דברים. מערכות AI יכולות לבצע הבחנות מוגבלות: 'זה אורי, זה לא אורי'. להבין זה יותר קשה. אלן שאל אותי בהתחלה: 'האם אפשר לתת לבינה מלאכותית ספר לימוד כך שתקרא פרק ובסוף תענה על שאלות?'. לכאורה זו פעילות פשוטה, אבל התשובה היתה לא. עבדנו על זה ויש התקדמות, אבל זו עדיין בעיה קשה".

 

איך בכלל נכון לחשוב על AI?

"לאנשים צצות כל מיני מטאפורות: מפלצת כמו הגולם מפראג או המחסל מ'שליחות קטלנית', או המצאה כמו הדינמיט, שפותח לשימוש במכרות, ואז התברר שיש לו כוח הרסני ואנחנו מתחרטים על זה. להבדיל, אחד הקולגות שלי, פרופ' אנדרו אינג (NG, שבין השאר ייסד את גוגל בריין), אומר שבינה מלאכותית היא כמו החשמל החדש, גם במובן של גודל השינוי — חשמל שינה את העולם — וגם בקלות השימוש. אתה רוצה זרם? צריך להתחבר לשקע, החשמל זורם החוצה והחיים טובים. בפועל זה לא ככה, זו טכנולוגיה שקשה מאוד לתפעל. אז המטאפורה שלי היא ש־AI היא פשוט כמו תוכנה: טכנולוגיה שאפשר להשתמש בה לטוב או לרע, והיא אכן מחוללת שינוי ומשמשת לכל דבר. אפשר לחשוב על AI כשלב הבא באבולוציה של התוכנה ושפות התכנות".

 

עציוני. "אני מת שתגיע הבינה המלאכותית שתראה קצת יוזמה, שתעשה משהו מעניין. במקום זה אני נתקל בחוק מרפי של AI: כל מה שהתוכנה יכולה לעשות נכון, היא תעשה לא נכון" עציוני. "אני מת שתגיע הבינה המלאכותית שתראה קצת יוזמה, שתעשה משהו מעניין. במקום זה אני נתקל בחוק מרפי של AI: כל מה שהתוכנה יכולה לעשות נכון, היא תעשה לא נכון" צילום: עמית שעל

 

כתבת בעבר על הצורך לא להיות אופטימיים מדי וגם לא פסימיים מדי בנוגע ל־AI.

"פסימיות היתר ברורה: יש בעולם בעיות גדולות כגון אי־שוויון או שינוי אקלים. נכון ש־AI יכולה להחמיר אותן, אבל באותה מידה יש לה היכולת לפתור אותן. לראות בה אסון זה חומר נהדר להוליווד, אבל זו לא המציאות. בקצה השני, הרבה מעמיתיי הם אופטימיסטים מוחלטים: יהיה מעולה, אין בעיות. גם זה כמובן לא נכון. השאלה היא איך משתמשים בטכנולוגיה החזקה הזאת. בסופו של דבר אלה יהיו החלטות של קובעי מדיניות, של פוליטיקאים, של בוחרים. אז במקום הגישות הקיצוניות, בואו נסתכל על AI באופן רציונלי ומבוסס נתונים".

 

אוקיי, אז בלי להיות אופטימיים או פסימיים: איפה נהיה בעוד עשר שנים?

"הדרך הכי טובה לחשוב עשר שנים קדימה היא להסתכל עשר שנים אחורה. בזמן הזה, ברמת המיקרו דברים השתנו — אז היה לנו רק אייפון 3 — אבל ברמת המקרו לא השתנה הרבה. כך שבעוד עשר שנים עדיין נבנה מערכות בינה מלאכותית 'צרות', שיכולות למשל לשחק גו, ולנצח. ואולי לזהות פרצופים, ולאבחן מחלות 'צרות', בהסתמך על תמונות, מה שרדיולוגים ואונקולוגים עושים היום. הן יהיו מסוגלות לבצע את המשימות הצרות האלה עם יכולת על־אנושית. אבל היכולות הרחבות יותר, מה שאנחנו ממש חושבים עליו כעל אינטליגנציה — להבין מה קורה, לעשות דברים בתוך הקשר רחב יותר — זה הרבה יותר קשה. ב־1996 התוכנה דיפ בלו ניצחה את אלוף העולם בשחמט גארי קספרוב; היא יכלה לשחק את משחק השח הטוב ביותר בעולם כשמסביבה החדר עולה באש, והיא לא היתה מבחינה בזה בכלל, היא ממוקדת רק במשחק. אז היום יש לנו תוכנה שיכולה לנצח את אלוף העולם בגו, שהוא משחק הרבה יותר מסובך, בזמן שהחדר עולה באש".

 

כלומר בינה מלאכותית עדיין לא מבחינה במתרחש סביבה.

"כן, לא היה שבריר התקדמות ביכולת שלה להבין מה קורה מסביב. אני צופה שבעוד עשר שנים אולי תהיה תוכנה שתוכל לנצח את שחקן המיינקראפט הטוב בעולם, אבל היא עדיין לא תשים לב שהחדר בוער. שם היא צריכה אותנו. לכן אנחנו צריכים ללכת לכיוון של אינטליגנציה שמגבירה את יכולות בני האדם, של אנשים שעובדים יחד עם מכונות".

 

ובכל זאת יש הבדל. לדיפ בלו הזינו כללי שחמט; בגו כבר יש את אלפא זירו, שלמדה את המשחק לבדה בתוך חמש שעות.

"זה נכון, וכן היתה התקדמות אמיתית ב־20 השנה האלה. אבל עכשיו אנשים שומעים שדיפמיינד 'נכנסה לתחום הרפואה' ועשויים לחשוב: 'אוקיי, חמש שעות ואנחנו פותרים את בעיות הרפואה. אנחנו פותרים את הסרטן. גו הוא הרי משחק כל כך קשה, זה קטן על דיפמיינד'. והתשובה היא לא. זה לא ככה. יש כאן פרדוקס שאנשים מפספסים: דברים שקשים לאנשים הם קלים למכונות, ודברים שקשים למכונות קלים לאנשים. העולם האמיתי, החיים האמיתיים, השפה האמיתית, ספרי לימוד — הם הרבה יותר קשים מגו".

 

אתם עובדים על AI שיש לה קומון סנס, שמבינה את השפה, שמבינה שאלות במדעים ועונה עליהן. אין שום חשש שיום אחד תגלה שהמערכות במעבדה שלך פיתחו בינה כללית ויכולות לחשוב בעצמן?

"זה קצת כמו מערכות הסטריאו של פעם, עם כל הכפתורים והאקוולייזר שהיה צריך לאזן ידנית כדי לקבל את הסאונד הנכון; עכשיו יש לנו מערכות שעושות את זה אוטומטית, מוצאות לבד את הבס והטרבל. לחשוש מ־AI זה קצת כמו לדאוג שהכוונון האוטומטי יהפוך את הסטריאו לכוכב המוות מ'מלחמת הכוכבים' וישמיד את כל המורדים. זה פשוט לא עובד ככה; מי שכתב תוכנה מבין כמה קשה לגרום למחשב שלך לעשות משהו בכלל. ועדיין, זו שאלה במקומה: ככל שאנחנו מפתחים שפות תכנות ותוכנות מתוחכמות יותר, הן אכן בוחנות יותר אפשרויות, ומסתגלות בדרך. אבל אני מת שתגיע התוכנה שתראה קצת יוזמה, שתעשה משהו מעניין. במקום זה אני נתקל בפועל בחוק מרפי של AI: כל מה שהתוכנה יכולה לעשות נכון, היא תעשה לא נכון. דיברנו על תוכנה שצריכה לענות על שאלות מדע, ברמה של כיתה ד' או כיתה ו'; נחש מה? היא עונה נכון על 60% מהשאלות! ייקח עוד די הרבה זמן עד שהיא תתקבל לאוניברסיטה".

 

לפני שנתיים קיימת סקר בקרב מומחי AI מובילים. שני־שלישים מהם חשבו שלא תהיה בינה מלאכותית כללית ב־25 השנה הבאות, רבע חשב שלא נגיע ל־AI כזאת לעולם. מה התשובה שלך?

"שבלתי אפשרי לחזות כה רחוק. האם זה יקרה בסוף? בהחלט. אני לא רואה שום סיבה שלא. אבל דמיין שאתה בשדה, ואתה שואל כמה זמן ייקח להגיע לראש הגבעה; אני אפילו לא מסוגל לראות איפה היא. אני חייב לטפס קודם על עוד גבעה כדי לראות את הגבעה הבאה, ואפילו על הגבעה הקרובה אני לא מצליח לטפס, אני כל הזמן מחליק למטה. אז אני לא יודע מתי נגיע ליעד, אבל אני כן מוכן להתערב שלא נגיע לבינה מלאכותית כללית ב־25 השנה הקרובות. אני יכול להצביע על מגוון בעיות שאנחנו אפילו לא מתקרבים לפתור".

 

אילו נישות בתחום הן המבטיחות ביותר, או שמלהיבות אותך יותר מאחרות?

"העניין העיקרי שלי הוא להשתמש במערכות כאלה כדי להציל חיים. יש שתי זירות שבהן זה הכי קונקרטי. הראשונה היא מכוניות: 40 אלף אמריקאים נהרגים בתאונות דרכים בכל שנה, ומיליון נפצעים; ההערכה היא שנוכל לצמצם את המספרים האלה ביותר מ־80% בעזרת מכוניות עם AI. התחום השני הוא רפואה. הרפואה משתפרת כל הזמן, תוחלת החיים עולה, ועדיין סיבת המוות השלישית בבתי החולים בארצות הברית, ואני משער שגם בישראל, היא טעויות. רופאים עייפים, מבולבלים, לא מצליחים לעקוב אחרי כל הידע ואולי אין להם גישה לכל המידע האישי שלך ולטיפולים הקודמים שעברת. אז הם הורגים אותך, לא בכוונה כמובן. נוכל למנוע הרבה מהטעויות האלה ולספק טיפול טוב יותר, דיאגנוזה טובה יותר, פולו אפ טוב יותר, עם מערכות AI טובות יותר. כך שמה שגורם לי לקום בבוקר כדי לחקור בינה מלאכותית, אחרי 30 שנה בתחום, הוא השאלה איך להשתמש בטכנולוגיה הזאת כדי להציל חיי אדם".

 

בינתיים התחום סופג ביקורת על שימוש זדוני, למשל זה שעשתה רוסיה בפייסבוק בבחירות בארצות הברית. יש חשבון נפש בתעשייה?

"אני לא מכיר כל מה שקורה, כמובן, וכן יש דברים שחושבים עליהם יותר - התפקיד של AI בהטיות שיוצרות אפליה, או בחיסול הפרטיות - אבל זה בסך הכל חשבון נפש מוגבל. חברות כמו גוגל, פייסבוק ואמזון מדפיסות כסף. הן משתמשות ב־AI באופן ממוקד כדי להיהפך לאפקטיביות יותר, והן מרוצות. כך שחשבון הנפש מתקיים ברובו מחוץ לתחום".

 

אז האחריות בעצם נמצאת אצל הרגולטורים? הם צריכים להתערב?

"זה לא פשוט. המחקר מתקדם מהר, והרגולציה זזה לאט. אבל אני חושב שיש לרגולטורים תפקיד בפיקוח על יישומים ספציפיים של AI: במכוניות, בנשק. מערכות שעשויות לקחת חיים או להציל חיים. הנה תחזית: בתוך עשר שנים יהיו מכוניות אוטונומיות שלפחות בתרחישים מסוימים ינהגו בטוח יותר מבני אדם. אני בישראל כבר שבוע, הן בטח ינהגו בטוח יותר מחלק מהנהגים שפגשתי בתל אביב".

 

מה לגבי הדרישה שהאלגוריתמים יהיו שקופים יותר, שנדע איך הם "מחליטים"?

"רוב הדיון הזה לא בכיוון. האם יש לנו שקיפות כיום? אצל פוליטיקאים אין שקיפות, וגם אצל שופטים אתה לא יודע איך התקבלה הפסיקה, השקיפות היא רק חלקית אפילו אצלם, הם כותבים את דעתם באופן כזה שערכאה גבוהה יותר לא תפסול את ההכרעה. יש הרבה מחקרים שמראים שאנחנו, כאנשים, בעצם מספרים סיפורים שמסבירים בדיעבד את מה שאנחנו חושבים שעשינו. אז בוא לא נדרוש מ־AI לעמוד בסטנדרט בלתי אפשרי. האופן שבו אנשים חושבים על AI הוא קצת כמו האופן שבו אנשים חושבים על ישראל: הם שופטים אותה באמת מידה בלתי אפשרית, שאינה ריאליסטית. כמובן ישראל, ו־AI, צריכות לשאוף לסטנדרטים הגבוהים ביותר. אבל צריכים להיות ריאליסטיים, והשאלה הרלבנטית היא איך השקיפות שמערכות כאלה מסוגלות להציע משתווה לשקיפות המוגבלת שאתה מקבל מבני אדם, כלומר אם AI תהיה טובה יותר. במקרה של מכוניות, למשל, השאלה היא לא 'בעיית הקרונית' (האם להסיט את הקרונית כך שתפגע באדם אחד ולא בחמישה) אלא אם אנחנו יכולים להפחית את מספר התאונות, לשפר את תהליך קבלת ההחלטות.

 

"מעבר לזה, אני חושב שכפייה של רגולציות לשקיפות תביא למס שפתיים לשקיפות, ולא לשקיפות באמת. לנטפליקס יש מנוע המלצות לסרטים. הם הבינו שאנשים רוצים לדעת למה המליצו להם דווקא על סרט מסוים, אבל כיוון שהאלגוריתם שמאחורי ההמלצה מסובך מאוד, הם פישטו את ההסבר ל'המלצנו לכם על הסרט הזה כי אהבתם את הסרט ההוא'. זה הסבר שאפשר להבין, ואנשים אהבו את זה. יש רק בעיה אחת: הוא לא נכון. זו פיקציה. התשובה מסובכת הרבה יותר".

 

הזכרת את חברות הענק שמדפיסות כסף, ויושבות על כמויות מידע אדירות. הן ישלטו בעתיד?

"לחברות כמו גוגל, אמזון, פייסבוק ומיקרוסופט יש יותר נתונים על המשתמשים מלכל אחד אחר. כוח המחשוב שלהן נותן להן יתרון כביר, וגם היכולת שלהן למשוך עובדים מוכשרים היא יתרון גדול. אבל ההיסטוריה מלמדת שדוד ניצח את גוליית. כל החברות שהן מעצמות־על כיום היו פעם סטארט־אפים, ואני מאמין ברוח היזמית. צריך למצוא את הרוגטקה הנכונה, לפגוע לגוגל בראש, והכל יהיה בסדר. זה יהיה קשה מאוד, אבל אני מאמין שזה יקרה".

בטל שלח
    לכל התגובות
    x