המחשב האינטימי שלי

כיום, אומרים הנתונים, כבר יש בעולם יותר מחשבים מאנשים, ואלה נמצאים בכל מקום, החל מהטלפון שלנו ועד למכונת הכביסה. אבל בעוד שהטכנולוגיה ממשיכה להתפתח ולחדור לתחומים שונים, התרבות עדיין מפגינה יחס מהוסס אל השינויים הגדולים שמקיפים אותנו. בשיחות עם "כלכליסט" מנסים שני מדענים, ד"ר אסף בוצר וד"ר סניה פוליקובסקי, להתייחס לשתי נקודות מבט במערכת היחסים הנרקמת בין האדם למכונה: איך אנחנו רואים את המחשב, ומצד שני - כיצד המחשב תופס אותנו.

"אנחנו לא מסוגלים לסלוח למחשב על טעות. גם אם כל המומחים בעולם יסכימו שאין צורך יותר בטייס אנושי שינווט את המטוס, זה לעולם לא יקרה". בעידן שבו אנחנו סומכים יותר ויותר על מחשבים שמבצעים תהליכים בצורה אוטומטית, אומר ד"ר אסף בוצר, המסקנה הזו דווקא מפתיעה. בוצר, מרצה במכללה האקדמית אשקלון, סיים לאחרונה את הדוקטורט שלו באוניברסיטת בן־גוריון על הקשר בין אדם למכונה, ובמסגרתו בדק אם בני אדם מוכנים להקשיב למחשב ולקבל את המלצותיו.

היום אנחנו הרי נותנים לאלגוריתמים ממוחשבים לקבל עבורנו החלטות כמעט בכל תחום, החל מגוגל שמוצא עבורנו את המידע הרלבנטי ביותר ועד תוכנות ניווט שמספרות לנו מהו המסלול הטוב ביותר. אבל המגמה שגילה בוצר היא דווקא הפוכה: על פי תוצאות המחקר שלו, כשהמחשבים והאוטומטיזציה משתלטים ומגבירים את אחיזתם בחיינו, אנחנו דווקא נוטים להעריך יותר את דעתם של בני האדם שסביבנו ולבטל את המחשב.

בוצר. "כשאנשים מגלים שמחשב טעה, מעכשיו הם יבחנו אותו בשבע עיניים - גם אם ההמלצות שהוא נותן טובות יותר מכל מה שבן אנוש מסוגל לספק" צילום: אוראל כהן

בוצר מחדד את הנקודה: "במחקר גיליתי שאנשים לא מגלים סלחנות לטעויות של מחשבים. כאשר הם נתקלים בטעות כזו נשברת להם כל התפיסה לגבי היכולות של המחשב, ומעתה הם יבדקו בשבע עיניים כל המלצה שיקבלו ממנו. זאת גם אם המלצות אלה יהיו טובות יותר מכל מה שבן אנוש יהיה מסוגל לספק להם".

במסגרת המחקר השווה בוצר את אחוז הדיוק של מערכות בינאריות (מערכות אוטומטיות שיש להן רק שני מצבים, כמו למשל גלאי עשן) ובין רמת האמון שהנבדקים נתנו להן. הוא גילה שלאחר שהמערכת מבצעת טעות, האמון שניתן לה יורד בצורה ניכרת - הרבה מעבר לפגיעה באמון שנגרמת אם אדם עשה טעות, וזאת אף שאדם יכול להיות הרבה פחות מדויק ממכונה.

חמור מכך, המחקר גילה כי בני אדם יבדקו לעתים בדקדקנות את המלצות המחשב, ולעתים אף ישקיעו בכך יותר זמן ומחשבה מאשר אם היו צריכים לקבל את ההחלטה בעצמם. במקום לאפשר למחשב לחסוך זמן, הוא גורם לנו לבזבז אותו. במקרים לא מעטים, אנשים נוטים לבקר את המחשב עד לרמה שבה הם מפסיקים לקבל לגמרי את המלצותיו, וזאת גם במקרים שהמחשב נותן את הפתרון הטוב ביותר.

"אנחנו חושבים בתבניות", אומר בוצר, "אז אנחנו מייחסים למידע יותר מדי או פחות מדי משקל. הרי בסופו של דבר, מערכת אינה פחות מדויקת אחרי טעות ממה שהיתה לפניה. לפעמים אנחנו משקיעים יותר זמן בלבדוק את המחשב מאשר אם פשוט היינו מבצעים את הפעולה בעצמנו. אנחנו אוספים יותר מידע ממה שאנחנו צריכים ומשקיעים בזה יותר מדי זמן".

אבל יש לא מעט אנשים שחושבים שהמחשב לא מסוגל לטעות.

"לרוב, אנשים סומכים על המחשב יותר מדי עד לנקודה שבה הם נחשפים לטעות. יש מערכות שבהן טעויות פחות נראות לעין, למשל כאלה המתריעות בפני התנגשות. זה נדיר, ואין סיכוי רב שיהיו מקרים שבהם המערכת מפספסת".

ובכל זאת, הסכנות מטעות מחשב גדולות יותר מאי פעם.

"יש לנו צורך אנושי בשליטה. כשמטוס מתרסק בגלל טעות מחשב, אני אחשוב על הטייס שהמערכת שלטה בו והובילה אותו למותו, ועל כך שהוא או פקח יכלו למנוע את האסון. אני לא אחשוב על מיליוני אנשים שהמערכת הצילה מפני שהיא מדויקת יותר. לכן אנחנו גם מפחדים מטיסות אבל פחות ממכוניות, אף שהסטטיסטיקה מראה שמכוניות הרבה פחות בטוחות. כשמטוס מתרסק זה מוות בטוח ואין לי שליטה. זה שוב קשור להערכת יתר של היכולות שלנו.

"גם טייסים שוגים בהערכת היכולות שלהם: דיברתי עם טייסים בחיל האוויר, שמעדיפים להטיס את המטוס ידנית ולא להסתמך על המערכת הממוחשבת, למרות שהסבירות שלה לתקלות נמוכה במיוחד. בעבר המערכות האלה התריעו בכל פעם שהטייס היה טס קרוב לאדמה, מאחר שלא ידעו מה המשימה ואם זה נעשה לצורך מבצעי. הטייסים הבחינו בטעות ועד היום הם לא סומכים על המערכת, אף שהיא השתכללה מאז".

"היום", אומר בוצר, "אנחנו מוצפים באוטומטיזציה. גם אם המערכות יותר מדויקות אנחנו ממשיכים להיחשף לטעויות - וליותר טעויות מאי פעם מהרבה יותר מקורות. כתוצאה מכך אנחנו פחות מפחדים מטכנולוגיה ופחות מפחדים שהיא תחליף אותנו, אבל אנחנו גם הרבה פחות סלחניים".

מטוס הרקולס של חיל האוויר. "גם טייסים שוגים בהערכת היכולת שלהם לעומת המחשב" צילום: חיל אויר

המחשב יידע מה אתם מסתירים

כיוון שונה ביחסי אדם־מחשב חוקר ומפתח ד"ר סניה פוליקובסקי, ישראלי שפועל היום באוניברסיטת סקובה, האוניברסיטה המובילה ביפן למדעי המחשב ורובוטיקה. הוא מקדם מיזם שמיועד לסייע למהנדסים, לגופי ביטחון, לחוקרי התנהגות ולפסיכולוגים בפיתוח מחשב שמסוגל לבצע ניתוח רגשות על בסיס מידע פיזיולוגי. לדבריו, למרות הסכנות הטמונות בפיתוחים האלה, הצעידה לעבר עתיד כזה היא בלתי נמנעת.

ניתוח רגשות פיזיולוגי הוא עדיין מדע טרי יחסית, שעלה לכותרות בעקבות סדרת הדרמה "שקר לי", על מומחה המסוגל לקרוא מידע על אנשים באמצעות התבוננות בהבעות הפנים והגוף. פוליקובסקי מציג כמה דוגמאות לתגובות אוניברסליות שקיימות אצל כל האנשים: חיוך למשל, או ניסיון להסתיר את השפתיים לאחר שאמרנו משהו שאנו מתביישים בו. נשיכת שפתיים מביעה לחץ, וגם טמפרטורת הגוף עולה בשעת לחץ.

אולם, זה לא דבר פשוט ללמד את המחשב לקרוא את כל הסימנים האלו. יש צורך לתרגם את המידע הזה לאלגוריתימים, ומחשב מנתח ואוסף מידע בצורה שונה לחלוטין מבני אדם. "פעם חוקרים יכלו להסתכל על אדם ולאסוף מידע, אבל למעשה העין האנושית אוספת הרבה פחות מידע ממצלמה והיא הרבה יותר אטית. יש בכך גם יתרון: כבני אדם, אנחנו בנויים לקרוא רגשות ולזהות תבניות".

פוליקובסקי מבהיר כי זה יהיה קשה להפוך את המחשב למתחרה בבני אדם, אבל יש לו גישה לחושים הרבה יותר מתוחכמים - כמו למשל חיישנים מגנטיים, חיישני חום וכן מעבדי ניתוח קול ותמונה מתקדמים. בתוך פחות מעשר שנים, לדידו, אנו כבר נראה סורקים עובדים שישתמשו במערך שלם של מצלמות, רמקולים וחיישנים שיעקבו אחר כל תנועה שהגוף והפנים מבצעים, וינתחו אותה.

ד"ר סנייה פוליקובסקי. המחשבים יידעו לנתח כל תנועה שלנו צילום: עמית שעל

המכונית תקרא את הנהג

כיום פוליקובסקי מקדם יוזמה להקמת מרכז מחקר שמשלב פסיכולוגיה וטכנולוגיה. "בעבר היו מצלמים אדם בווידיאו ומנסים לנתח אותו", הוא אומר, "אבל העלות לשעת עבודה היתה גבוהה מאוד ולא יכולנו לאסוף מספיק מידע. מה שאנחנו צריכים לעשות זה לבנות מאגרי מידע עצומים וללמד את המחשב לזהות רגשות".

בעיני רוחו, פוליקובסקי רואה עולם שבו העלות של סורקים יורדת לאלפי דולרים בודדים, והם נמצאים בכל מקום. רופא יוכל לקרוא מרחוק כמה כאב חשים המטופלים שלו ולדעת אם הטיפול שרשם השפיע או לא, פסיכולוגים יוכלו לאבחן דיכאון והלם קרב בקלות, מפתחי משחקים יוכלו להתאים את רמת הקושי לתסכול או להנאה שהשחקנים מציינים, ומכוניות יוכלו להתקין אמצעי נעילה שלא מאפשר את הפעלת המכונית כאשר הנהג עייף מדי.

"עם הזמן נגלה מהם החיישנים המתאימים ביותר לכל פעולה. בעבר ניסו כולם לפצח את מה שאני מכנה 'אף פינוקיו'", אומר פוליקובסקי, "חיישן אחד שמודד דבר אחד ומסוגל לספק את כל המידע הדרוש. היום כבר רואים שזה לא מספיק, ויש צורך במערך שלם של חיישנים. היום כבר יש ציוד מתקדם שמסוגל לעקוב אחר תזוזת אישונים ממרחק של מטרים. לבסוף נגיע לנקודה שבה יהיה מוצר שיתאים לכל בית ועסק".

קשה שלא לחשוב על ההשלכות הפולשניות שיכולות להיות לפיתוחים עתידיים כאלה - מערכות וידיאו צ'ט שיוכלו להגיד לצד השני מה האדם חושב, מערכות פרסום שיאספו מידע על המשתמש וחנויות שיראו אילו מוצרים מפעילים רגשית את הצרכן. הכוח המסחרי שיש למערכות כאלו הוא בלתי מבוטל, ואי אפשר להתעלם גם מהאספקטים הביטחוניים שלהן. "מדברים הרבה על מערכות לקריאת שפת גוף, אז כנראה יש בהן צורך. כבר היום יש דיבורים על תוכניות שילמדו אנשים איך 'לזייף' תגובות. זו טכנולוגיה חשובה שבוודאי שיש לה גם השלכות משפטיות".

"אני לא מומחה לפרטיות", מוסיף פוליקובסקי, "אבל לדעתי זה יגרום לאנשים להיות יותר מודעים לעצמם. כפי שלקח לנו זמן להבין שאימייל יכול להיות גם ספאם, זה יגרום לאנשים להבין מה הם משדרים ומה הם מרגישים. כחברה, אנחנו צריכים לחשוב לאיזה כיוון אנחנו לוקחים את הטכנולוגיה הזו - ביטחוני או צרכני. אין ספק שיש כאן שאלות קשות בתחום האתיקה. אני אישית לא הייתי רוצה שזה יהפוך לכלי ריגול מסחרי ותעשייתי".