• תפריט
מוסף 30.01.2014
מוסף 30.01.14

אנושות על אוטומט

המירוץ האנושי אחר האוטומציה שתקל על חיינו הוא בלתי נגמר: מחשבים מטיסים את מטוסינו, מגלים את הסרטן בגופנו, מתכננים את בתינו ועורכים ביקורות חשבונאיות בעסקים שלנו. אבל מה זה עושה ליכולות האנושיות, ומה קורה כאשר המחשב מפסיק לעבוד?

ניקולס קאר, אטלנטיק 09:2630.01.14
בערבו של 12 בפברואר 2009 פילסה את דרכה טיסת קונטיננטל מניוארק, ניו ג'רזי, לעבר באפלו, ניו יורק, במזג אוויר סוער. כמקובל בטיסות מסחריות בימינו, לטייסים לא ציפתה יותר מדי עבודה במשך הטיסה בת השעה. הקפטן מרווין רנסלו אחז בהגאי הבומברדיה Q400 למשך זמן קצר בעת ההמראה, ומיד לאחריה עבר לטייס אוטומטי ונתן לתוכנה להטיס את המטוס. הוא פצח בשיחת חולין עם טייסת המשנה שלו בשעה שהמטוס שייט בשלווה בגובה 16 אלף רגל. אבל כאשר המטוס החל להתקרב לשדה התעופה של באפלו וכני הנחיתה ומדפי הכנפיים כבר הורדו, החלו ההגאים לרעוד ברעש, סימן שהמטוס מאבד גובה ועשוי להגיע למצב של הזדקרות. מערכת הטייס האוטומטי התנתקה, והקברניט השתלט על מערכת ההיגוי. הוא הגיב במהירות - אך עשה בדיוק את מה שלא היה צריך להיעשות: הוא משך לאחור את ההגאים, מה שגרם לחרטום להתרומם ולהאט את מהירות המטוס. הפעולה הנכונה היתה לדחוף את ההגאים קדימה כדי לצבור תאוצה. במקום למנוע מהמטוס להזדקר, פעולותיו גרמו בדיוק לכך. המטוס הזדקר, הסתחרר וצנח לקרקע. "אנחנו מתרסקים", צעק הקברניט בקשר שניות לפני שה־Q400 התרסק לתוך בית בפרבר של באפלו.

 

אתר התרסקות מטוס אייר פרנס לחופי ברזיל, 2009. "שכחנו איך לטוס", הגדיר זאת קצין הבטיחות  של איגוד הטייסים האמריקאי אתר התרסקות מטוס אייר פרנס לחופי ברזיל, 2009. "שכחנו איך לטוס", הגדיר זאת קצין הבטיחות של איגוד הטייסים האמריקאי צילום: בלומברג

 

אלא שההתרסקות, שגרמה למותם של כל 49 הנוסעים ואנשי הצוות במטוס ושל אדם נוסף על הקרקע, היתה יכולה להימנע. חקירה של הרשות הלאומית לבטיחות בתחבורה קבעה כי סיבת התאונה היתה טעות אנוש של הטייס. לפי החקירה, תגובת הטייס לאזהרת ההזדקרות "היתה צריכה להיות אוטומטית, אך פעולותיו לא תאמו את הכשרתו וחשפו בהלה ובלבול". בכיר מטעם החברה שהפעילה את הטיסה, חברת התעופה האזורית קולגן אייר, הודה כי נראה שהטייסים לקו בהיעדר "מודעות מצבית" בשעת החירום.

 

ההתרסקות בבאפלו לא היתה תקרית בודדה. כמה חודשים קודם לכן אירע אסון דומה, שהסתיים במספר רב יותר של נפגעים. בליל 31 במאי מטוס איירבוס A330 של חברת אייר פרנס המריא מריו דה ז'ניירו לפריז. כשלוש שעות לאחר ההמראה נקלע מטוס הג'מבו לסערה מעל לאוקיינוס האטלנטי. מדידי המהירות שלו כוסו בקרח, ועל כן הועברו נתונים שגויים, שגרמו למערכת הטייס האוטומטי להתנתק. עקב כך הטייס פייר־סדריק בונין משך בכוח את ההגאים. המטוס נסק ונשמעה אזהרת הזדקרות, אך הוא המשיך למשוך לאחור את ההגאים כך שהמטוס המשיך בנסיקה חדה ואיבד מהירות. בשלב מסוים מדידי המהירות שבו לפעולה תקינה וסיפקו לצוות נתונים מדויקים, אך בונין בכל זאת המשיך להאט את המטוס. המטוס הזדקר והחל בנפילה. אילו בונין רק היה משחרר את ההגאים קרוב לוודאי שהמטוס היה מייצב את עצמו, אך הוא לא עשה זאת. המטוס איבד גובה של 35 אלף רגל בתוך שלוש דקות והתרסק לתוך האוקיינוס. כל 228 הנוסעים ואנשי הצוות נהרגו.

 

הטייס האוטומטי הראשון הורכב משני מכשירי ג'ירוסקופ, אחד אופקי ואחד אנכי, שחוברו להגאי המטוס והופעלו בעזרת גנרטור רוח שניצב מאחורי המדחף. הג'ירוסקופ האופקי שמר על גובה הכנפיים, והאנכי פיקח על ההיגוי. מערכות טייס אוטומטי מודרניות דומות דמיון קלוש בלבד למכשיר פרימיטיבי זה. הן נשלטות על ידי מחשבים שמריצים תוכנות מורכבות ביותר, אוספות מידע מחיישנים חשמליים ומתאימות בעקביות את הגובה, המהירות והכיוונים של המטוס. המחוגים האנלוגיים והמונים הישנים נעלמו ברובם מלוח הבקרה, והחליפו אותם שורות של תצוגות דיגיטליות המרכיבות את מה שטייסים מכנים כיום "קוקפיט מזכוכית".

 

האוטומציה הפכה להיות כל כך מתוחכמת עד שבטיסה מסחרית טיפוסית כיום אוחז הטייס בהגאים במשך זמן כולל של כשלוש דקות בלבד. ביתר הזמן הטייסים רק עוקבים אחר המסכים ומקלידים נתונים. לא יהיה מוגזם לומר שהפכו למפעילי מחשבים. ולהערכת מומחי תעופה ואוטומציה זו עשויה להיות בעיה. בעיה גדולה.

 

אין ספק שהטייס האוטומטי תרם לאורך השנים לשיפורים בבטיחות התעופה. הוא מפחית את עייפות הטייסים, מתריע מראש על תקלות ואף יכול לסייע למטוס להמשיך לשייט באוויר במקרה שבו הצוות אינו יכול לתפקד. אבל שימוש יתר באוטומציה שוחק את מיומנותם של הטייסים ומקהה את הרפלקסים שלהם. הירידה המתמשכת במספר ההתרסקויות מסווה את ההופעה של "סוג חדש של תאונות", אומר ראג'ה פרסוראמן, פרופסור לפסיכולוגיה באוניברסיטת ג'ורג' מייסון ומומחה מוביל בתחום האוטומציה. כשמערכת טייס אוטומטי קורסת, טייסים מושלכים לפתע לתוך תפקיד שנהיה נדיר עבורם, ובהתאם עושים טעויות. "שכחנו איך לטוס", הגדיר זאת בפשטות רורי קיי, לשעבר קצין הבטיחות הראשי של איגוד הטייסים האמריקאי, בראיון ב־2011 לסוכנות הידיעות אי.פי, ורשות התעופה הפדרלית מוטרדת מהמצב עד כדי כך שבינואר שלחה לחברות התעופה "אזהרת בטיחות", שבה ביקשה מהן לדאוג שטייסיהן יטיסו את המטוסים באופן ידני לעתים קרובות יותר. הסתמכות יתר על אוטומציה, הזהירו ברשות, עלולה לסכן את המטוסים והנוסעים.

 

המחשבים מתוחכמים יותר, אנחנו פחות

 

הדוגמאות מתחום התעופה אמורות להספיק לגרום לנו לעצור לרגע ולבחון את המצב. הן חושפות שאוטומציה, על אף כל יתרונותיה, עשויה להשפיע לרעה על הביצועים והכישורים של האנשים שמסתמכים עליה - וההשלכות באות לידי ביטוי בתחומים רבים שמעבר לבטיחות. האוטומציה משנה את האופן שבו אנחנו מתנהגים ולומדים, וההחלטות שאנחנו מקבלים בנוגע למשימות שאנחנו מפקידים בידיה מעצבות את המקום שאנחנו נותנים לעצמנו בעולם. טענה זו היתה נכונה מאז ומתמיד, אך בשנים האחרונות, עם המעבר של טכנולוגיות החיסכון בעבודה ממכונות לתוכנות, החלה האוטומציה לחלחל יותר ויותר, בה בשעה שפעולותיה הולכות ונסתרות מעינינו. במרדף אחר נוחות, מהירות ויעילות אנחנו ממהרים להפיל עבודה על מחשבים מבלי לחשוב מה אנחנו מאבדים בעקבות כך.

 

מכונית ללא נהג של גוגל. רק שש שנים לפני הצגתה לציבור כתבו שני כלכלנים בכירים כי נהיגה "מחייבת הבאה בחשבון של גורמים כה רבים עד שקשה לדמיין מערכת שתוכל להחליף נהג אנושי" מכונית ללא נהג של גוגל. רק שש שנים לפני הצגתה לציבור כתבו שני כלכלנים בכירים כי נהיגה "מחייבת הבאה בחשבון של גורמים כה רבים עד שקשה לדמיין מערכת שתוכל להחליף נהג אנושי" צילום: איי אף פי

 

רופאים משתמשים במחשבים לדיאגנוזות ולניתוחים. בנקאים בוול סטריט משתמשים בהם כדי להרכיב מכשירים פיננסיים ולבצע פעולות מסחר. אדריכלים משתמשים בהם כדי לעצב בניינים. עורכי דין משתמשים בהם בעת תהליך גילוי המסמכים. אבל לא רק עולמנו המקצועי עובר תהליך מחשוב מואץ. הודות לסמארטפונים ולמחשבים קטנים וזולים אחרים, אנחנו תלויים כיום בתוכנות לביצוע רבות ממשימות היומיום שלנו. יש לנו אפליקציות שמסייעות בעריכת קניות, בבישול, בארגון מפגשים חברתיים ואפילו בגידול הילדים. אנחנו מצייתים להוראות ה־GPS בקפדנות, נוהים אחר המלצות של מנועי חיפוש כדי להחליט מה לראות, לקרוא ולשמוע, פונים לגוגל או לסירי כדי שיענו על שאלותינו ויפתרו את בעיותינו. באופן הולך וגובר אנחנו חיים את חיי העבודה והפנאי שלנו בתוך קוקפיטים מזכוכית.

 

לפני מאה שנה כתב המתמטיקאי והפילוסוף הבריטי אלפרד נורת' וייטהד כי "הציביליזציה מתקדמת בהגדלת מספר הפעולות החשובות שאנחנו יכולים לבצע מבלי לחשוב עליהן". קשה להעלות על הדעת הצהרת אמונים נחרצת יותר באוטומציה. מדבריו של וייטהד משתמעת אמונה ברורה בהיררכיה של הפעילות האנושית: בכל פעם שאנחנו מטילים משימה על מכשיר או מכונה, אנחנו מאפשרים לעצמנו לטפס לעבר מטרה גבוהה יותר, כזו שמחייבת מערכת מיומנויות גדולה יותר, אינטליגנציה עמוקה יותר או נקודת מבט רחבה יותר. גם אם אנחנו מפסידים משהו קטן בכל התקדמות כזאת, בטווח הארוך ברור כי מה שאנחנו מרוויחים משמעותי במידה ניכרת.

 

ההיסטוריה מספקת לנו לא מעט ראיות לטענה של וייטהד. האנושות מעבירה למכונות משימות, פיזיות ומנטליות, מאז המצאת הדוושה, הגלגל והחשבונייה. ואולם, אי אפשר להתייחס לאבחנה של וייטהד כאל אמת אוניברסלית. הוא כתב על אוטומציה בשעה שהיא הוגבלה למשימות מובחנות, מוגדרות היטב וחזרתיות - טוויית בד באמצעות מכונה מופעלת קיטור או חישוב מספרים באמצעות מחשבון מכני. אבל האוטומציה היום בעלת אופי שונה לגמרי. אפשר לתכנת מחשבים כך שיבצעו פעולות מורכבות ביותר, משימות עוקבות ומתואמות היטב, המביאות בחשבון משתנים רבים. תוכנות רבות יכולות כיום לעשות משימות תבוניות - צפייה ותחושה, ניתוח ושיפוט, אפילו קבלת החלטות - שעד לאחרונה נחשבו כשמורות רק לבני אדם. כך קורה שהאדם שמפעיל את המחשב למעשה לוקח על עצמו את התפקיד של פקיד הייטק שרק מזין את הנתונים, בודק את הפלטים ומחפש כשלים. במקום להרחיב את גבולות המחשבה והפעולות שלנו, אנחנו ממירים כישרונות ייחודיים ומורכבים בכישרונות שגרתיים יותר ומיוחדים פחות.

 

רובנו רוצים להאמין שאוטומציה מפנה לנו זמן להשגת מטרות נעלות יותר, ואינה משנה את האופן שבו אנחנו מתנהגים או חושבים. אבל זוהי סברה מוטעית - ביטוי למה שחוקרי האוטומציה מכנים "מיתוס ההחלפה" (substitution myth). מכשיר המסייע לנו בעבודה אינו מספק רק תחליף למרכיב אחד של המשימה, אלא משנה את אופי המשימה כולה - כולל התפקידים, הגישות והכישורים של האנשים שלוקחים בה חלק. "אוטומציה לא רק מחליפה את הפעילות האנושית, אלא גם משנה אותה, לעתים באופן שלא התכוונו או ציפו לו מתכנני האוטומציה", הסביר זאת פרסוראמן במאמר שפרסם ב־2010.

 

פסיכולוגים מצאו שכאשר אנחנו עובדים עם מחשבים, אנחנו נופלים לעתים קרובות קורבן לשתי תופעות קוגניטיביות שעלולות לפגוע בביצועינו ולהוביל לשגיאות: שאננות והטיה. שאננות שמקורה באוטומציה מתרחשת כאשר מחשב מעניק לנו תחושה מוטעית של ביטחון. אנחנו בטוחים לגמרי שהמכשיר יעבוד ללא דופי ויתמודד עם כל בעיה שעלולה לצוץ, ולכן מאפשרים לתשומת הלב שלנו לנדוד. אנחנו מתנתקים מהמתרחש בעבודה, והמודעות שלנו למה שקורה סביבנו נחלשת. הטיה הנובעת מאוטומציה מתרחשת כאשר אנחנו מאמינים במידה מוגזמת ברמת הדיוק של המידע שזורם דרך המסכים שלנו. האמון שלנו בתוכנה נהיה כל כך חזק עד שאנחנו מתעלמים מהחשיבות של מקורות מידע נוספים, כולל העיניים והאוזניים שלנו, או מזלזלים בה, עד כדי כך שכאשר מחשב מספק מידע שגוי או לא שלם אנחנו כלל לא מודעים לכך.

 

שפע דוגמאות לשאננות ולהטיה כזאת כבר תועדו בסיטואציות בעלות סיכון גבוה, לדוגמה בנושאות מטוסים, בשדה קרב ובחדרי בקרה של מפעלים, אבל מחקרים אחרונים מעידים שבעיות אלה עלולות לתקוף כל מי שעובד עם מחשבים. רדיולוגים רבים, לדוגמה, משתמשים כיום בתוכנה שמדגישה אזורים חשודים בממוגרפיות. לרוב ההדגשים מסייעים בגילוי המחלה, אך מתברר כי עשויה להיות להם השפעה הפוכה. הרדיולוגים מפתחים הטיה ברורה לעבר ההצעות של התוכנה, ועלולים להתעלם מאזורים בצילום שלא הודגשו על ידי התוכנה, וכך לפספס גידול בשלבים מוקדמים. מרביתנו חווים שאננות כזאת ביושבנו מול המחשב, כאשר בעת כתיבת מייל או בשימוש בתוכנת מעבד תמלילים אנחנו מתרשלים בהקלדה ובהגהה, משום שאנחנו יודעים שבדיקת האיות פועלת.

 

אינואיט רותם כלב למזחלת באי איגלוליק. במשך אלפי שנים נודעו ציידי האי ביכולות הניווט המרשימות שלהם, אך מרגע שהחלו להסתמך על מכשירי GPS נרשמה עלייה בתאונות קשות בחורף המקפיא אינואיט רותם כלב למזחלת באי איגלוליק. במשך אלפי שנים נודעו ציידי האי ביכולות הניווט המרשימות שלהם, אך מרגע שהחלו להסתמך על מכשירי GPS נרשמה עלייה בתאונות קשות בחורף המקפיא צילום: רויטרס

 

ואולם, האופן שבו מחשבים יכולים להחליש את המודעות ואת תשומת הלב מצביע על בעיה עמוקה עוד יותר. אוטומציה הופכת אותנו משחקנים לצופים מהצד. במקום לדחוף או למשוך את ההגה אנחנו בוהים במסך. המעבר הזה עשוי להפוך את החיים שלנו לקלים יותר, אך הוא מונע פיתוח של מיומנויות.

 

מאז סוף שנות השבעים מתעדים הפסיכולוגים תופעה הקרויה "אפקט ההפקה". היא זוהתה לראשונה במחקרים שעסקו בלימוד אוצר מילים, שחשפו שאנשים זוכרים מילים טוב יותר כשהם מפיקים אותן מאשר כאשר הם רק קוראים אותן. כאשר אנחנו מעורבים באופן פעיל במשימה, אנחנו מוציאים לדרך תהליכים מנטליים מורכבים שמאפשרים לנו לצבור יותר ידע, כלומר, לומדים יותר וזוכרים יותר. חזרה על אותה המשימה לאורך זמן מובילה את המוח לייצר מעגלים עצביים ולארגן את הידע הנחוץ באופן שמאפשר לנו לשלוף אותו באופן מיידי. בין שמדובר בסרינה וויליאמס על מגרש הטניס ובין שבמגנוס קרלסן מול לוח שחמט, מומחה יודע לזהות תבניות, להעריך את איכות הסימנים ולהגיב לנסיבות המשתנות במהירות ובדייקנות שנתפסים כמעט לא טבעיים. מה שנראה כמו אינסטינקט הוא למעשה מיומנות שנרכשה בעבודה קשה - בדיוק אותה העבודה שכל התוכנות המודרניות מנסות לחסוך מאיתנו.

 

המומחים מזהירים: זאת רק ההתחלה

 

ב־2005 ערך הפסיכולוג ההולנדי כריסטוף ואן נימווגן מחקר על השפעות המחשוב על התפתחות הידע המעשי. הוא גייס שתי קבוצות של נסיינים לשחק במשחק מחשב המבוסס על חידת ההיגיון הקלאסית "כמרים וקניבלים", שבו צריכים השחקנים להעביר חמישה כמרים וחמישה קניבלים נהר בסירה שיכולה להכיל רק עד שלושה נוסעים בכל פעם. המכשול הוא שאסור בשום שלב שמספר הקניבלים יעלה על מספר הכמרים - לא בסירה ולא על גדות הנהר. אחת הקבוצות במחקר ניסתה לפתור את החידה בעזרת תוכנה שהעניקה הסברים והנחיות על כל צעד וציינה אילו מהלכים מורשים ואילו יובילו לפסילה. הקבוצה השנייה השתמשה בתוכנה בסיסית שלא סיפקה הנחיות או רמזים.

 

כפי שאפשר היה לצפות, הקבוצה שהשתמשה בתוכנה המסייעת התקדמה מהר יותר בתחילה. המשתתפים עקבו אחר ההנחיות ולא נאלצו לעצור לחשוב לפני כל מהלך ולשנן את הכללים כדי להבין כיצד הם חלים על המצב החדש שנוצר. ואולם, ככל שהמבחן נמשך, דווקא הקבוצה שהשתמשה בתוכנה הבסיסית החלה לצבור יתרון. חברי הקבוצה פיתחו הבנה קונספטואלית ברורה של המשימה שלפניהם, הגו אסטרטגיות טובות יותר ועשו פחות שגיאות. שמונה חודשים לאחר מכן ביקש ואן נימווגן מאותם אנשים לנסות לפתור שוב את החידה - הפעם כולם בלי סיוע. משתתפי הקבוצה שהשתמשה בתוכנה הבסיסית פתרו את החידה בחצי מהזמן שנדרש לחברי הקבוצה השנייה. המסקנה היתה שמכיוון שהם נהנו מיתרונות "אפקט ההפקה", הם הציגו הטמעה טובה יותר של הידע.

 

מה שוואן נימווגן ראה במעבדתו - שכאשר אנחנו משתמשים באוטומציה לביצוע פעולות, אנחנו למעשה פוגעים ביכולת שלנו לתרגם מידע לידע - מתועד בעולם האמיתי. מנהלים ואנשי מקצוע בתחומים רבים הפכו לתלויים מדי במערכות המנתחות מידע ומציעות דרכי פעולה רצויה בתהליך קבלת ההחלטות. רואי חשבון, לדוגמה, משתמשים בתוכנות מחשב מתוחכמות לביצוע ביקורת חשבונאות. התוכנות ללא ספק מזרזות את העבודה, אך במקביל גוברות העדויות שככל שיכולות התוכנה מתגברות, קטֵנות היכולות של רואי החשבון.

 

מה שמדהים ומדאיג במהפכת האוטומציה הוא שהיא עדיין בשלביה המוקדמים. מומחים נהגו להניח שהיכולת למכן משימות מורכבות מוגבלת, בייחוד משימות המערבות תפיסה חושית, זיהוי תבניות וידע קונספטואלי. הדוגמה שהרבו להשתמש בה היא נהיגה, פעולה המחייבת פרשנות אינסטינקטיבית של מבוך סימנים ויזואליים וכן את היכולת להגיב בשגרתיות למצבים לא צפויים. "פנייה שמאלה תוך חציית תנועה נגדית", כתבו שני כלכלנים בכירים ב־2004, "מחייבת הבאה בחשבון של גורמים כה רבים עד שקשה להעלות על הדעת מערכת כללים שתוכל לשחזר את התנהגות הנהג". שש שנים בלבד לאחר מכן, באוקטובר 2010, הכריזה גוגל כי בנתה צי של שבע מכוניות ללא נהג, שכבר הספיקו לגמוא יותר מ־225 אלף ק"מ בכבישי קליפורניה ונבדה.

 

מכוניות ללא נהגים מספקות הצצה לאופן שבו רובוטים יצליחו לבצע פעולות המחייבות מודעות לסביבתם, תנועות מתואמות והליך מתמשך של קבלת החלטות. במקביל נרשמת התקדמות מהירה באוטומציה של משימות חשיבה. רק לפני כמה שנים הרעיון שמחשב יתחרה בשעשועון טלוויזיה כמו "מלך הטריוויה" (Jeopardy) עורר לעג, אך ב־2011 הביס ווטסון, מחשב־העל של יבמ, את אלוף כל הזמנים של התוכנית בארצות הברית, קן ג'נינגס, בסדרת תוכניות שזכתה להד תקשורתי נרחב. ווטסון אינו חושב באותה הדרך שבה אנשים חושבים; אין לו שום הבנה לגבי מה שהוא עושה או אומר. היתרון שלו טמון במהירות יוצאת הדופן של מעבדי המחשבים המודרניים.

 

צריך לקחת צעד לאחור

 

מי בכלל צריך בני אדם? השאלה הזאת בצורות רטוריות שונות עולה לעתים קרובות בדיונים על אוטומציה. אם כישורי המחשבים משתכללים במהירות רבה כל כך, ובהשוואה בני האדם אטיים, מסורבלים ונוטים לטעויות, אז מדוע לא לבנות מערכות מושלמות ועצמאיות שפועלות ללא כשלים, פיקוח או התערבות אנושית? מדוע לא להוציא את הגורם האנושי מהמשוואה? בתגובה לקשר בין אוטומציה לטעויות הטייסים העלה תיאורטיקן הטכנולוגיה קווין קלי את הטיעון שהפתרון המובן מאליו הוא פיתוח טייס אוטומטי אוטונומי לחלוטין: "בטווח הארוך טייסים אנושיים לא צריכים להטיס מטוסים בכלל". בדומה, וינוד קוסלה, מנהל קרן הון סיכון בעמק הסיליקון, טען לאחרונה כי הטיפול הרפואי ישתפר במידה ניכרת כאשר תוכנות רפואיות יעברו מסיוע לרופאים בדיאגנוזות להחלפת הרופאים כליל. כלומר, התרופה לאוטומציה לא מושלמת היא אוטומציה טוטאלית.

 

הרעיון אמנם מפתה, אבל אין מכשיר חסין מטעויות. במוקדם או במאוחר אפילו הטכנולוגיה המתקדמת ביותר תתקלקל, תטעה או תיתקל בנסיבות שהמתכנן שלה לא חזה מראש. וככל שטכנולוגיות האוטומציה נהיות מורכבות יותר כך הפוטנציאל לכשלים גדל. במקביל יהיה קשה יותר לזהות את הכשלים. כל אחד מהחלקים עשוי לעבוד ללא בעיות, אך מספיקה שגיאה קטנה בתכנון המערכת לגרום לתאונה גדולה.

 

במאמר קלאסי מ־1983 שהתפרסם בכתב העת "אוטומטיקה" תיארה ליזאן ביינברידג', מומחית בפסיכולוגיה של הנדסת אנוש מיוניברסיטי קולג' לונדון, בעיה מהותית של אוטומציה מחשבית. לדבריה, מכיוון שמתכנני מערכות יוצאים מנקודת הנחה שמפעילים אנושיים הם "לא מהימנים וחסרי יעילות", לפחות בהשוואה למחשב, הם שואפים להעניק להם תפקיד קטן ככל האפשר, והאנשים משמשים בסופו של דבר מפקחים בלבד, צופים פסיביים במסכים. ואולם, זוהי עבודה שאנו, בני האדם, הנוטים למחשבות נודדות, גרועים בה במיוחד. מחקרים בנושא ערנות, ששורשיהם במלחמת העולם השנייה ובניסויים על מפעילי מכ"מים, מראים שאנשים מתקשים להישאר מרוכזים בתצוגה יציבה של מידע למשך יותר מחצי שעה. יתרה מכך, מכיוון שהכישורים של אנשים מידרדרים כשהם אינם ממומשים, גם מפעיל מנוסה יתחיל בשלב מסוים להתנהג כחסר ניסיון אם התפקיד שלו יוגבל רק לצפייה. והידרדרות הידע המעשי מעלה את הסבירות שכאשר משהו ישתבש, תגובתו של המפעיל לא תהיה הולמת. ההנחה שהאדם יהיה החוליה החלשה ביותר במערכת הופכת כך לנבואה שמגשימה את עצמה.

 

פסיכולוגים גילו כמה דרכים פשוטות לצמצם את ההשפעות ההרסניות של האוטומציה, לדוגמה לתכנן תוכנה שתעביר את השליטה בחזרה לבני האדם בפרקי זמן תדירים אך לא קבועים. הידיעה שהשליטה עשויה לעבור לידיהם בכל רגע נתון מספיקה לגרום לאנשים להישאר ערניים למתרחש ובעקבות כך להמשיך ללמוד. כמו כן, ניתן להגביל את האוטומציה ולוודא שהאנשים שעובדים על המחשבים מבצעים משימות מאתגרות ולא מסתפקים בצפייה. אפשר לשלב מסלולים חינוכיים בתוך התוכנה, שיחייבו את המשתמשים לבצע שוב ושוב משימות ידניות ומנטליות מורכבות, שמעודדות יצירת זיכרון ובניית כישורים.

 

ואולם, רוב התוכנות והאפליקציות ממשיכות לא לעודד למידה ומעורבות. זאת משום שנקיטת הצעדים הנחוצים ללמידה, פיתוח ושימור של המומחיות באה כמעט תמיד על חשבון המהירות והיעילות, וחברות ששואפות למקסם את הפריון והרווח לא ימהרו להסכים לעסקת חליפין מסוג זה. גם אנשים פרטיים בדרך כלל שואפים ליעילות ונוחות. אנחנו בוחרים בתוכנה שתוריד מאיתנו את הלחץ, ולא בזו שתגרום לנו לעבוד קשה יותר וזמן רב יותר. חששות מופשטים לגבי גורל הכישרון האנושי אינם יכולים להתחרות בפיתוי של החיסכון בזמן ובכסף.

 

כשהאינואיטים גילו את ה־GPS

 

האי הקטן איגלוליק, לחופי חצי האי מלוויל שבטריטוריית נונאווט בצפון קנדה, הוא מקום מפחיד בחורף. הטמפרטורה הממוצעת נעה סביב מינוס 30 מעלות, שכבות עבות של קרח מכסות את הים הסובב והשמש כמעט אינה נראית. ואולם, על אף התנאים הקשים כבר 4,000 שנה הציידים האינואיטים יוצאים בכל חורף מבתיהם ומסיירים לאורך קילומטרים של ערבות קרח בחיפוש אחר חיות בר לציד. יכולתם של הציידים לנווט בשטחים ארקטיים חשופים נרחבים, שציוני הדרך בהם מעטים ושבילי העקבות נעלמים בהם בן לילה, מדהימה חוקרים ומדענים זה מאות שנים. כישורי הניווט מעוררי ההשתאות האלה נולדו מתוך הבנה עמוקה של הרוחות, דפוסי ערימות השלג, התנהגות בעלי החיים, מיקום הכוכבים והגאות.

 

אבל התרבות האינואיטית מתחילה להשתנות, והציידים באיגלוליק החלו להסתמך על מפות ממוחשבות בניווטיהם. אימוץ טכנולוגיית ה־GPS בולט במיוחד בקרב הצעירים, ולא קשה להבין מדוע: הקלות והנוחות של הניווט הממוכן גורמות לטכניקות המסורתיות להיראות ארכאיות ומסורבלות. עם זאת, במקביל לעלייה בשימוש במכשירי GPS באיגלוליק, גוברים הדיווחים על תאונות קשות בעונת הציד. צייד שלא פיתח כישורים למציאת הדרך יכול ללכת בקלות לאיבוד, בייחוד אם מכשיר ה־GPS שלו מתקלקל, והנתיבים שמשורטטים בקפידה במפות הלווייניות עשויים להוביל את הציידים למשטחי קרח דק או לסכנות אחרות שנווט מיומן היה יודע להימנע מהן. האנתרופולוג קלאודיו אפורטה מאוניברסיטת קרלטון באוטווה, שחוקר את הציידים האינואיטים כבר יותר מ־15 שנה, מציין כי אימוץ הניווט הלווייני כבר הוביל לירידה ביכולות הניווט הטבעיות של הציידים והחליש את ההתמצאות שלהם בשטח. אינואיט במזחלת שלג מצוידת במכשיר GPS כמעט אינו שונה מתושב פרברים שנוסע למשרד בג'יפ שמותקן בו מכשיר GPS ומציית להוראות היוצאות מהמחשב עד שהוא מאבד את הקשר עם המתרחש סביבו. הוא נוסע ב"עיניים קשורות", כפי שמגדיר זאת אפורטה. כישרון ייחודי שאפיין עם במשך מאות שנים עלול להיעלם בתוך דור.

 

בין שמדובר בטייס בקוקפיט במטוס, ברופא בחדר הטיפולים או בצייד אינואיטי על קרחון, ידיעה מחייבת פעולה. בכל פעם שאנחנו מתמודדים עם המציאות, הבנת העולם שלנו גדלה ואיתה המעורבות שלנו. אוטומציה ממוחשבת מפרידה את המטרה מהאמצעים. היא מקלה עלינו להשיג את מה שאנחנו רוצים, אך בו בזמן מרחיקה אותנו מעבודת הידיעה. בשעה שאנחנו הופכים את עצמנו ליצורים הבוהים במסכים, אנחנו ניצבים בפני שאלה קיומית: האם המהות שלנו עדיין טמונה בידע שלנו, או שמא אנחנו מסתפקים בכך שרצונותינו יגדירו אותנו? אם לא נמהר לענות על שאלה זאת בעצמנו, המכשירים שלנו בוודאי ישמחו לענות עליה עבורנו.

 

* הכותב הוא סופר אמריקאי שבוחן את השפעות הטכנולוגיה ועידן המידע על בני אדם, מחבר המאמר מכה הגלים שפורסם ב"אטלנטיק" ב־2008: "האם גוגל עושה אותנו טיפשים? מה האינטרנט עושה למוח שלנו?"

 

בטל שלח
    לכל התגובות
    x