הוקלט באולפני המרכז לתרבות מונגשת
אנחנו מאבדים את הכיוון, ואת החשיבה האנושית
במחקר של מעבדת המדיה של MIT שפורסם ביוני השתתפו 54 סטודנטים, שהתבקשו לכתוב חיבור בנושא מופשט, האתיקה של פילנתרופיה, החסרונות בריבוי אפשרויות וכדומה. המשתתפים חולקו לקבוצות: חלק כתבו בעזרת ChatGPT, חלק נעזרו במנועי חיפוש, לאחרים לא הותרו אמצעי עזר. החוקרים תיעדו את הפעילות במוחם של הכותבים, וגילו שאצל מי שעבדו עם הצ'אט נרשמה המעורבות המוחית הנמוכה ביותר, עם "ביצועים נמוכים באופן עקבי ברמה העצבית, הלשונית וההתנהגותית". אחר כך, כשכל המשתתפים התבקשו להציג את הרעיונות המרכזיים בטקסט שכתבו, 83% מהמשתמשים בצ'אט לא הצליחו להיזכר בציטוט אחד מהחיבור, לעומת 11% בשתי הקבוצות האחרות, ותחושת הבעלות שלהם על הטקסט היתה נמוכה. משתתפי המחקר נקראו שוב ושוב לבצע משימות כתיבה במשך ארבעה חודשים; אלה שנעזרו בצ'אט השקיעו פחות ופחות מפעם לפעם, וכשהתבקשו לכתוב בלי סיוע כזה הפעילות במוח שלהם לא חזרה לרמות של הסטודנטים שכתבו ללא כל עזרים.
כשד"ר דיוויד וייצנר, מומחה לניהול מאוניברסיטת יורק שבטורונטו, נתקל במחקר הזה, הוא התלהב. שבועות ספורים קודם לכן פרסם את ספרו השלישי, "לחשוב כמו בן אנוש" ("Thinking Like a Human"), שכותרת המשנה שלו היא "כוחה של התודעה שלך בעידן הבינה המלאכותית", ובו הסביר מה בדיוק המשמעות של חשיבה אנושית. הוא קורא לה "אינטליגנציה אמנותית" (Artful Intelligence), וסבור שהיא משלבת את הגוף, הרגש, האינטואיציה והסביבה — ושהיא חזקה יותר מהחשיבה האלגוריתמית של הבינה המלאכותית. להערכת וייצנר, ה־AI קרוב למיצוי שלו, ואילו תחום מדעי המוח נמצא בחיתוליו. לכן אנחנו צריכים להתמקד בהבנה טובה יותר של החשיבה האנושית, שתאפשר לנו לפתח אותה, ולא בבינה המלאכותית. המחקר החדש, מבחינתו, הצביע בדיוק על הכיוון הזה.
ואז הוא הלך לשמוע הרצאה של החוקרת שהובילה את המחקר, ד"ר נטליה קוסמינה, שעוסקת בממשק שבין מוח למחשב. "רציתי לדעת אם מתוכננים מחקרים עתידיים שיבדקו השלכות גופניות (של השימוש ב־AI)", מספר וייצנר (Weitzner) בריאיון ל"מוסף כלכליסט". "אנחנו יודעים על קישוריות מוחית הנגרמת מלמידה, רגשות, זיכרונות… אז מה לגבי מדידת התגובות בלב או בשרירים?".
ומה גילית?
"שההרצאה שלה הוקדשה למוצר שהיא מפתחת, מכשיר ביתי שמודד גלי מוח ונותן לך פידבק בזמן שאתה משתמש בצ'אט, כדי לנסות למצוא דרך לגרות את המוח. במילים אחרות, היא אומרת: 'הבעיה היא שכמו שהכלי מתוכנן כרגע הוא לא מפעיל נוירונים, אז בואו נמצא כלי שיעזור לכם להשתמש בצ'אט באופן שכן יפעיל אותם' — וזה כיוון הפוך לגמרי ממה שחשבתי. במקום לקחת את הממצאים ולהגיד: 'וואו, אנחנו חייבים להגדיל את המאמצים שלנו בתחום האינטליגנציה הטבעית', מבחינת החוקרים התוצאות מצביעות על בעיה טכנולוגית שדורשת פתרון טכנולוגי, שישאיר אותנו מול המסכים. זה העציב אותי".
למה?
"כי אם את חושבת שחשיבה אלגוריתמית היא הטובה ביותר, את תמצאי דרכים להפוך אותנו לאלגוריתמים. אבל אני סבור שאינטליגנציה אמנותית עדיפה".
וייצנר סבור שההטיה הזאת לטובת שיפור הטכנולוגיה במקום שיפור האדם מאפיינת את השיח הנוכחי על AI. הוא קורא לגישה הזאת "עליונות אלגוריתמית". במאמר שפרסם בסוף אוקטובר בכתב העת המקוון המשפיע "Quillette" הוא תיאר כיצד גם ביקורות על בינה מלאכותית נובעות לעתים קרובות מהעמדה הזאת, ואיך הדיון על יתרונות החשיבה הטבעית הולך ונדחק. בשיחה איתו הוא מבהיר שהוא לא נגד הטכנולוגיה, אבל חושב שהיא צריכה להיות הזדמנות לחזק את מה שטוב בבני אדם, במקום להתמסר לכוח הממכר שלה.
"טכנולוגיה וחדשנות תמיד יהיו כאן, וזה נהדר, כי אנחנו רוצים כלים שעוזרים לנו להתקדם. אבל אנחנו צריכים לדעת מה החוזקות שלנו ומה החוזקות של הכלים. ואם החוזקה של הכלים היא אלגוריתמית, אז החוזקות שלנו צריכות להיות אחרות. ואנחנו יודעים רק חלק קטן ממה שאנחנו יכולים לעשות — מדעי המוח נמצאים רק בהתחלה של ההבנה של היכולות שלנו. אנחנו עדיין לא יודעים אפילו מהי בדיוק תודעה. אז תתרשמו מטכנולוגיה, אבל תתרשמו עוד יותר מהאינטליגנציה האמנותית שיש לנו ושאנחנו עדיין לא מנצלים היטב".
"האינטליגנציה שלנו מבוססת על גוף, סביבה, פעולה ותודעה. אנחנו משתמשים בקוגניציה גופנית ובמרחבים הפיזיים, אנחנו חושבים תוך כדי פעולה וכל אחד משתמש בתודעה שלו אחרת. AI לא יודע לעשות את כל זה"
3 צפייה בגלריה
וייצנר. "בעברי יש הרבה חשיבה אלגוריתמית, כי בישיבה לימדו אותי שהגוף משני למוח. רק כעבור שנים הבנתי שאני צריך לשחרר"
(צילום: Steph Mill)
למה אתה קורא לה אינטליגנציה אמנותית?
"כדי לשמור על ראשי התיבות AI, אבל בעיקר כעמדה נגד מי שרואה בתווית 'אמנות' סימן לעשייה נחותה יותר מ'מדע'. ומקור המילה הוא בצרפתית, שם משמעותה 'מיומנות שנרכשת בלמידה או תרגול'".
אוקיי, ומה זו אינטליגנציה אמנותית, ולמה אנחנו צריכים אותה אם אנחנו לא אמנים?
"כי היא מאפשרת לנו לחשוב אחרת, ואם אנחנו רוצים לבלוט אנחנו חייבים לחשוב אחרת. אינטליגנציה אמנותית מתבססת על BEAM, ראשי תיבות של גוף, סביבה, פעולה ותודעה, ובינה מלאכותית לא יכולה לעשות זאת. אנחנו משתמשים בקוגניציה הגופנית שלנו, חושבים עם הידיים, עם הלב, עם הבטן וכו'. אנחנו משתמשים במרחבים הפיזיים שלנו כדי לפרוק אליהם קוגניציה. אנחנו חושבים תוך כדי פעולה. ויש לנו תודעה — תודעה היא משהו ייחודי וכל אחד משתמש בה באופן שונה, בניגוד להשקפה שסבורה שאפשר לשכפל אותה בחישוב אנליטי במעבדה. את כל אלה AI לא יודע לעשות, והשימוש בו פוגע בכל זה".
באיזה אופן?
"כמו כל כלי אחר, כשאנחנו משתמשים בחשיבה אמנותית אנחנו משתפרים בה ומחדדים אותה. ואם אנחנו לא משתמשים בה אנחנו מתחילים לאבד את היכולת הזאת. אני מרצה באוניברסיטה, אני רואה את זה אצל הסטודנטים שלי, ואני רואה את זה גם על עצמי".
תן דוגמה.
"Waze. תוכנות ניווט הן לא דבר רע, השאלה היא איך משתמשים בהן. היתה תקופה שבה השתמשתי בווייז כל הזמן, גם לנסיעות קצרות, כי חשבתי שכך אסע במסלול הכי מהיר. אבל במשך הזמן גיליתי שאני כבר לא חושב על כיוונים, ומחקרים הראו ששימוש ממושך בווייז אכן מחליש את חוש הכיוון. זה בדיוק העניין — אם אתה מפסיק להשתמש ביכולת טבעית שלך היא נחלשת".
אז הפסקת להשתמש בווייז?
"לא. כשאני נוהג מטורונטו לניו יורק אני עדיין משתמש בה, כי על הכביש המהיר אני צריך הכוונה. אבל אם מתחיל, למשל, קטע בלי פניות משמעותיות, אני מכבה את האפליקציה ומתחיל לשים לב איפה אני נמצא. זה תמיד האיזון העדין הזה, בין להשתמש בכלי לבין להבין שחשיבה אמנותית זה אנחנו, זו הדרך שבה אנחנו בנויים".
בצ'אט אתה משתמש?
"שיחקתי עם הצ'אט לא מעט כשעבדתי על הספר, כדי לוודא שאני מדבר מתוך ניסיון אישי. אבל אני לא אוהב להסתמך על סיכומים אוטומטיים, אני מעדיף שיפנו אותי למאמרים ארוכים ומעמיקים, כמו שעושה מנוע חיפוש. באחד המקרים ביקשתי שהצ'אט יפנה אותי למחקר אקדמי על רעיון מסוים של הפילוסוף האמריקאי ריצ'רד רורטי; הוא ייצר טקסטים שהיו בדיוק מה שקיוויתי למצוא, תהיתי איך ייתכן שפספסתי את המקורות האלה וביקשתי שיפנה אותי אליהם — והתברר שהוא לקח אותם ממאמר שאני פרסמתי על רורטי. זה פחות או יותר חתם את השימוש שלי בכלי הזה".
"הנדסית, בינה מלאכותית היא הישג מרהיב. אבל כל עוד הוא רצוף טעויות, וכל עוד הוא לא מכבד זכויות קניין רוחני, אני לא יכול לתאר אותו כמשנה חיים באופן חיובי. ובמקרים רבים הפלט של הבינה המלאכותית בעיניי יותר מציק מאשר נפלא"
אנחנו מאבדים את המיומנות, ואת המוסר האנושי
מחקר פולני בהשתתפות 1,400 מטופלים מצא שהמיומנות של צוותי רפואה בביצוע קולונוסקופיות נפגעה באופן משמעותי בעקבות שימוש ב־AI. לפי המחקר, שפורסם באוגוסט בכתב העת "The Lancet Gastroenterology & Hepatology", שיעור הזיהוי של נגעים טרום־סרטניים במעי הגס בקולונוסקופיה בלי עזרת בינה מלאכותית ירד ב־6% אחרי שהעובדים התרגלו להיעזר ב־AI. החוקרים מסרו: "הממצאים שלנו מדאיגים, לנוכח העובדה שהטמעת הבינה המלאכותית ברפואה מתרחבת במהירות. למיטב ידיעתנו, זהו המחקר הראשון שמצביע על השפעה שלילית של שימוש קבוע בבינה מלאכותית על יכולתם של אנשי מקצוע בתחום הבריאות לבצע משימה רפואית הרלוונטית ישירות למטופל".
הקשר בין יעילות אלגוריתמית לבריאות וחיי אדם מעסיק את וייצנר (51) לא מעט. הוא אומנם מרבה לדבר על חשיבה אמנותית ועל תודעה, ולחשדנים הוא עלול להישמע קצת היפי. הוא לא. הוא אוהב יעילות, הוא מאמין בהישגים — הוא פשוט חושב שאולי אנחנו צריכים לחשוב אחרת על מה שיכול להוביל אותנו להישגים. האוריינטציה שלו היא ניהולית־עסקית, הוא משמש יועץ עסקי, ותחומי המחקר שלו עוסקים במפגש בין עבודה, מנהיגות ומוסר. הוא פשוט בוחן את עולם העסקים והניהול ואת כל הסוגיות שלעיל מנקודות מבט לא שגרתיות. ספרו הקודם, למשל, נקרא "קפיטליזם מחובר: איך חוכמה יהודית יכולה לשנות את העבודה" (וייצנר הוא יהודי, דתי, דובר עברית ויידיש).
נקודת המבט שבוחנת יעילות גם בהקשרים של מוסר מובילה באופן טבעי לתחום הבריאות, ומכיוון שהוא קנדי — זה תחום כואב במיוחד. "אצלנו בקנדה דוחפים המתת חסד רפואית כפתרון יעיל", הוא אומר בפשטות, ובכעס. ואומנם, 16 אלף בני אדם הומתו במדינה ב־2024 בהמתות חסד, שהיו 5.1% ממקרי המוות במדינה, והיא אחת המובילות בעולם בנושא. וייצנר קושר בין התופעה לבין קשיי התפקוד של מערכת הבריאות.
איך נראית מדינה שבה דוחפים להמתת חסד כפתרון של יעילות? מה זה אומר?
"יש עכשיו מקרה של אשה עם סוג נדיר של מחלה בבלוטת יותרת התריס. יש קונצנזוס על כך שניתן לרפא אותה, אבל אין רופאים רלוונטיים זמינים במחוז שלה, וזה מורכב מדי להעביר אותה למחוז אחר. אז פשוט קבעו לה תור להמתת חסד. זה בעיניי כתב אישום מזעזע נגד הממשלה הקנדית".
ואיך זה קשור ליעילות, לחשיבה אלגוריתמית?
"אנחנו כופים את האלגוריתם של המתות חסד על אנשים לא משום שאין להם תקווה להחלים, אלא משום שזו הדרך היעילה ביותר להתמודד עם הבעיה שלהם. זו חשיבה אלגוריתמית במובן הכי מזעזע שלה".
וזה בגלל ה־AI?
"גם, כי הוא הכלי הנוכחי לבדיקת יעילות. ישנו הסיפור של רשת בתי החולים האמריקאית HCA Healthcare, שב־2023 נחשף שהיא סירבה לטפל בחולים מסוימים כדי לא לפגוע בנתוני היעילות שלה — היא הטמיעה אלגוריתם שמדד את הסיכוי של מטופל למות ולפי זה החליטה אם להעביר אותו מבית החולים להוספיס. מנהלי הרשת רצו למדוד יעילות, והמדד הזה נפגע כשעוד ועוד אנשים מתים במוסד שלך. אז יש שתי דרכים למנוע את זה שאנשים ימותו בבית החולים שלך — לרפא אותם, או לשלוח אותם למוסד אחר כשהם עומדים למות. שם בחרו בדרך השנייה. הרופאים בבתי החולים התנגדו לכך, אבל נאמר להם שהם לא מחליטים יותר. ההחלטה הזו עברה באאוטסורסינג לאלגוריתם, והאלגוריתם מחליט מתי להפסיק לטפל".
כתבות על HCA בכלי התקשורת העלו שרופאים אפילו ננזפו "למה החולה הזה לא הועבר להוספיס 12 שעות קודם?". את הגישה הזו ראו בנתונים: לפי מדיקר (ביטוח הבריאות הפדרלי), שיעור מקרי המוות ב־HCA עלה במשך שנים (2021-2017) בקצב איטי בהרבה מהממוצע הארצי — עלייה של 17% לעומת 45%. "HCA לא לבד", כותב וייצנר בספר, ומביא דוגמאות נוספות, למשל: "קבוצת UnitedHealth, ספקית ביטוח הבריאות הגדולה ביותר בארצות הברית, פיטרה עובדים שלא פעלו לפי המלצת האלגוריתם להפסיק את הטיפול השיקומי לחולים קשישים ונכים חולים, ונפתחה נגדה חקירת הגבלים עסקיים לבדיקה אם כוחה לסרב לטיפול הגיע לרמות מונופוליסטיות". לפי וייצנר, המצב לא השתנה משמעותית (להפך, ממשל טראמפ דווקא הקל על HCA, למשל).
יש דרך להימנע מדברים כאלה היום, כשתוחלת החיים עולה, הצורך בטיפולים רפואיים גובר, יש הרבה עלויות, התחרות קשה? זה לא חלק מהמחיר הכואב של עסקים בתחום שנוגע לחיי אדם?
"הבעיה אינה בעסקים. עסקים זה דבר נהדר, ואני בעד עסקים ובעד אסטרטגיה. הבעיה אפילו אינה במרדף אחרי יעילות, כי היא כשלעצמה אינה דבר רע. הבעיה מתחילה כשאנחנו מוותרים על האנושיות שלנו. וזה מה שקורה כאן. בקנדה, למשל, אני בטוח שאנשי הממשלה יודעים שזה לא פתרון נכון, ומערכת הבריאות אפילו לא פרטית, היא ציבורית. ואם המטרה שלך היא להשמיד את כל התחרות כך שלאנשים לא תהיה בחירה — אני לא מחשיב את זה עסקים".
3 צפייה בגלריה
אלטמן. "כשהוא השיק את הצ'אט הוא הבטיח שהכלי הזה יהיה מורה לילדים, ושיהיו לו בלמים. עכשיו מייצרים בו פורנו, כי על זה אנשים משלמים"
(צילום: Patrick Semansky/AP)
"חברות הטכנולוגיה יצרו משהו שכבר עולה להן מיליארדים, אין לו שימוש עסקי ברור, הוא לא רווחי, והן עדיין חושבות שהפתרון הוא לזרוק עליו עוד מיליארדים… זו לא נשמעת לי כמו תוכנית עסקית בריאה"
אנחנו מאבדים פרופורציות, ואת הבחירה האנושית
מחקר של מיקרוסופט עם אוניברסיטאות סטנפורד, בולדר וקופנהגן, שפורסם באוקטובר תחת הכותרת "קריסת הידע והגיוון האפיסטמי במודלי השפה הגדולים", ביקש לבדוק עד כמה התוצאות שמספקים כלי AI רחבות. הוא בחן 27 מודלי שפה, 155 נושאים מ־12 מדינות ו־200 וריאציות של פרומפטים שנלקחו משיחות אמיתיות של משתמשים, ומצא כי אף שמודלים חדשים יותר נוטים לייצר טענות מגוונות יותר, כמעט כל המודלים מפגינים גיוון נמוך מזה שמתקבל בחיפוש בסיסי באינטרנט.
וייצנר, כאמור, לא שונא AI, לא טכנופוב, לא שמרן, לא פנאט. "הנדסית, זהו ללא ספק הישג מרהיב. אבל כל עוד הוא רצוף טעויות, וכל עוד הוא לא מכבד זכויות קניין רוחני, אני לא יכול לתאר אותו כמשנה חיים באופן חיובי. ובמקרים רבים הפלט של הבינה המלאכותית בעיניי יותר מציק מאשר נפלא. ועדיין, אם הוא הופך תכנות לקל יותר — זה מצוין. ואם הוא עוזר לאנשים להיות פרודוקטיביים יותר — זה טוב".
איך נהנים מיתרונות כאלה בלי לאבד את הדברים האחרים, האנושיים? מה צריכה להיות האתיקה של הבינה המלאכותית?
"ה־AI צריך להיות כלי שתומך בבני אדם, שתומך בי — שהמטרה שלו היא תמיד להחזיר אותי לגוף שלי, להשתמש בתודעה שלי טוב יותר, להשתמש ברגשות שלי טוב יותר, ולסמוך יותר על תחושת הבטן שלי. ואם זה לא אפשרי, גם כלי שעוזר לי בלי להזיק לי יהיה נהדר".
מה זה אומר?
"למשל, ווייז שמנטר אותי באופן אתי ויודע מתי להתערב ומתי לא, שמאפשר לי לבצע את הפניות שלי בעצמי במידה מסוימת ומתערב רק כשהוא יודע שאני הולך לאיבוד. זה AI מועיל. כך גם בדיקת איות שמנסה לתקן רק את האיות שלי ולא להציע תחביר חלופי שמוחק את המילים ואת הקול שלי והופך את הכתיבה שלי לגנרית ולא מעניינת. אני אומנם לא מבין תרגום ופרשנות, אבל תיאורטית גוגל טרנסלייט שאומר 'התרגום יכול להיות א', ב', או ג'' ומציע לך לחוש את ההקשר, להתבונן בשפת הגוף ולנסות לנחש איזו משלוש האפשרויות מתאימה הרבה יותר מעניין אותי מכזה שאומר: 'זה תרגום א''. זו הבינה המלאכותית האידאלית בעיניי: כזו שמשלימה פער במיומנות שאין לי אבל לא חותרת תחת האנושיות שלי בזמן שהיא עושה את זה".
הצ'אט, הוא מזכיר, אינו מכשיר אולטימטיבי, תרופה לכל. "אם אתה אומר: 'הצ'אט הוא בעצם מחשבון הסתברויות, והוא טועה בעד 30% מהזמן אבל כיף לשחק איתו' — אז כל הכבוד, מצוין. אבל אם אתה אומר: 'הצ'אט חכם יותר מכל דוקטור ופרופסור, והוא יהיה מורה, מאהב, חבר' — זה לא מה שזה".
ואנשים לא חושבים על זה.
"הקמתי את מכון האינטליגנציה האמנותית כדי לקדם אותה, ולאחרונה ערכנו אירוע בסן פרנסיסקו שהגיעו אליו גם כמה מוזיקאים. אחד מהם אמר: 'אני ממש המום מכמה הבינה המלאכותית מגניבה עכשיו, כי בעבר היית צריך גישה למאסטרים כדי לשמוע מה כל כלי מנגן, והיום אני משתמש בבינה מלאכותית והיא מפרידה את זה'. נכח שם גם איש טכנולוגיה שעבד על הפרויקט הזה והוא אמר לו: 'זה לא מה שזה עושה. זה מחשבון הסתברויות. מה שזה באמת עושה זה לנחש'. והמוזיקאי אמר לו: 'אה, רגע, אז זה בולשיט?', ואיש הטכנולוגיה אישר והוסיף: 'אני מניח שכנראה כדאי לספר לאנשים שה־AI לא באמת שומע יותר טוב ממך ומפריד את הכלים, הוא רק מנחש על בסיס הסתברות אילו תווים יש שם'".
מה האחריות של החברות?
"הן צריכות להיות כנות, ולהתמודד עם ההשפעות של מה שהן עושות. אני מאמין ביזמות חופשית, אני מאמין בקפיטליזם, אבל אני גם מאמין שהדברים צריכים להיעשות בשקיפות. לשקר אין מקום בזה. ויש הבדל בין שיווק ושכנוע, שאני מבין, לבין הטעיה. הטעיה היא דבר בעייתי מאוד".
אנחנו לא אחרי נקודת האל־חזור? מעבר לצוק?
"אחד הדברים שגרמו לי לצחקק, אף שזה גם עצוב, הוא שכאשר סם אלטמן השיק את ChatGPT הוא הבטיח שהוא יהיה מורה לילדים ושיהיו לו בלמים — ועכשיו, כשהוא מתחיל לראות שאין לזה שימוש עסקי, הוא מסיר חלק מהבלמים האלה ורבים משתמשים בצ'אט כדי ליצור פורנו דיפ־פייק, כי לזה יש שימוש ועל זה אנשים כן משלמים. כשאת אומרת שאנחנו מעבר לצוק, האם זה אומר שאנחנו צריכים לקבל את העובדה שמוצר שבמקור היה אמור ללמד את ילדינו ולשנות את העולם, אבל אף אחד לא משלם על זה, משמש כעת ליצירת פורנו נקמה, כי על זה אנשים כן משלמים? האם עלינו לשלב ידיים ולומר: 'אוקיי, זה הכיוון שאליו הטכנולוגיה הזו הולכת?'. אני לא חושב. ואת יודעת, ייתכן שאנחנו לא מודעים לפריצות דרך שיגיעו בעתיד, ואולי מחר תגיע אחת שתגרום לצ'אט להיות כל מה שאלטמן הבטיח שהוא יהיה".
אתה רואה את זה קורה?
"אני חוקר, וכשאני משוחח עם חברים מקהילת המחקר, הנוירו־מדע והנדסת מחשבים, וגם עם אנשי עסקים — הם ציניים. וכשאני נמצא לבד בחדר עם אנשי טכנולוגיה בכירים — גם הם ציניים. אז אני לא יודע אם מי שאומר שאנחנו כבר מעבר לצוק אומר את זה בכנות, או כי הוא חלק ממכונת ההייפ, ויש לו אינטרס בקיבוע האמירות האלה".
אז מה אנחנו יכולים לעשות, מעבר להבנה בשימוש הפרטי שלנו?
"לשאול שאלות עמוקות לגבי האופי המוסרי והמניעים של היזמים. אני מודאג מחלק מענקיות הטכנולוגיה, כי יש בהן אנשים עם תפיסת עולם מאוד שונה משלי, ולרעה. אני, למשל, מאמין בעסקים, לדעתי זו הדרך להגדיל את העוגה באופן הטוב ביותר ולשפר חברה. אבל יש מי שלא שותף למטרה הזו. הטרנס־הומניסטים, למשל, עובדים כדי ליצור עתיד שבו אנחנו לא חיים בגוף שלנו ומעלים את התודעה שלנו לענן. הם מוכנים להקריב את הסביבה, כי בעתיד נהיה דיגיטליים או על מאדים. יש גם כאלה שמרוכזים מדי באינטרסים שלהם, ולכן מקדמים הייפ במקום חדשנות אמיתית. זה לא הקפיטליזם שלי".
ובטווח זמן קצר יותר, אנחנו לא בבועת AI?
"אני לא משתמש במונח 'בועה' כי אני לא יודע מתי היא תתפוצץ, אבל אני מאמין שהיסודות רעועים. אני גם לא משוכנע שהממשלות שלנו לא ימשיכו לנפח את הבועה הזו — וזו בעיה אוניברסלית, אף שאירופה מתמודדת איתה טוב יותר מצפון אמריקה. אני חושב שכרגע מדובר בעיקר בהייפ, ואני לא מבין את הכלכלה של זה. לפי מומחים שאני מעריך, כמו גארי מרקוס (מומחה AI מהחשובים והמשפיעים בעולם), הטכנולוגיה הזו הגיעה לקצה היכולת שלה, השקעה בכוח מחשוב נוסף לא תשפר את המוצר — ועדיין זה הכיוון שחברות הטכנולוגיה הולכות אליו. הן יצרו משהו שכבר עולה להן מיליארדים, אין לו שימוש עסקי ברור, הוא לא רווחי, והן עדיין חושבות שהפתרון הוא לזרוק עליו עוד מיליארדים… זו לא נשמעת לי כמו תוכנית עסקית בריאה. אבל אם ממשלות ימשיכו לתמוך בזה, 'אנחנו רוצות שתבנו את מרכזי הדאטה החדשים שלכם אצלנו', מרכזי הדאטה ימשיכו להיבנות ושבבים ימשיכו להירכש".
אנחנו מאבדים את הגוף, ואת החברה האנושית
MIT ו־OpenAI פרסמו במרץ שני מחקרים משותפים שבחנו את ההשלכות הרגשיות של השימוש בצ'אטבוט, בייחוד בקרב משתמשים כבדים. מחקר אחד ניתח כ־3 מיליון שיחות שגרתיות בצ'אט ותשאל 4,000 מהמשתמשים על מצבם הרגשי. המחקר השני היה ניסוי מבוקר עם כ־1,000 משתתפים ששוחחו עם הבוט מדי יום במשך חודש על נושאים אישיים ולא אישיים ודיווחו על תחושותיהם. בשני המקרים נבדקה השפעת השימוש על בדידות, מעורבות חברתית ותלות רגשית, ובמקרים של שימוש ממושך, בייחוד בצ'אט הקולי המתקדם, נמצאו עלייה בתלות הרגשית, ירידה בקשרים החברתיים ותחושת קושי להיגמל מהשימוש. משתמשים כבדים נטו יותר לראות בבוט מעין חבר, להעדיף אותו על שיחה פנים אל פנים, ואף לחוש תסכול לנוכח שינויים באופיו.
וייצנר נולד, גדל וחי בטורונטו גם היום, עם בת זוגו אלנה ושלושת ילדיהם, מוישה, שיינדי ולאה (בני 19, 17 ו־15). הוא עשה תואר ראשון בפילוסופיה, תואר שני במינהל עסקים ודוקטורט באסטרטגיה, ובין לבין, כחובב מוזיקה אדוק, עבד בחברת התקליטים EMI ובין השאר קידם בקנדה את האלבום "OK Computer" של רדיוהד ("הם היו בני האדם הכי נחמדים שפגשתי אי פעם").
עוד לפני האקדמיה, וייצנר למד בישיבה ובתיכון עברי, וגם בתואר הראשון אחד המנטורים המשמעותיים שלו היה הרב החסידי ד"ר יצחק בלוק, "אקדמאי מבריק, בעל דוקטורט מהרווארד שכתב ספר על איזון בין רציונליזם לאמונה דתית", כפי שהוא מתאר אותו בספרו האחרון. "הוא היה גם חסיד מסור של הרבי מלובביץ' ונהג לרקוד ברחובות אונטריו, ובאופן מוזר יותר — גם על שולחנות בית חב"ד באוניברסיטה, אפוף התלהבות מיסטית. את הצד הרציונלי שבו הבנתי. אבל הנטייה הזו לריקודי שולחן בלבלה אותי וגרמה לי אי־נוחות קיצונית".
איפה כל הרקע שלך וההשראות והחיבור למוזיקה ממקמים אותך על הציר שבין חשיבה אלגוריתמית לאינטליגנציה אמנותית?
"בעברי יש הרבה חשיבה אלגוריתמית. אני נער ישיבה, לימדו אותי שהגוף הוא משני למוח או לנשמה ושהשאיפה היא לעשות אינטלקטואליזציה להכל. ואז התחלתי לקרוא על קוגניציה גופנית ולדבר עליה עם אנשים מתחום הפסיכולוגיה, והם שכנעו אותי שאני מפספס. בסוף ד"ר בלוק הוציא אותי מזה. התווכחנו והתווכחנו במשך ארבע שנים, ובאחת הפגישות האחרונות שלנו בתואר ישבנו כרגיל על וודקה והוא אמר לי: 'דיוויד, בסופו של דבר, אתה לעולם לא תכיר את ההנאה העמוקה שיש לי מלהיות חסיד של הרב שלי. האינטלקט המפותח יתר על המידה שלך לא יאפשר לך להכיר אותה'. והוא צדק — אני לא מאבד שליטה, לא משחרר. אז התחלתי לעשות מדיטציה, וללכת לפסיכולוג, כי הבנתי שהראש שלי טוב, אבל גם הגוף שלי".
בשנים האחרונות הקוגניציה הגופנית (Embodied Cognition), תחום מחקר שבוחן כיצד הקוגניציה מעוצבת בידי הגוף ומושפעת ממנו, מעסיקה את וייצנר מאוד, גם אישית וגם בעבודתו. "לקחת נשימה ולאפס את הגוף פיזית עושה משהו למציאות שלנו", הוא אומר. "אינטלקטואל לא יכול להסביר את זה, את צריכה לעשות את זה — לעצום עיניים, לייצב את כפות הרגליים על הקרקע, להרים את הצוואר, להניח את קצה הלשון על שורש החך, לקחת נשימה עמוקה ולאפס את עצמך. את שונה עכשיו, ולא צ'אטבוט — וגם לא המילים שלי — יכולים להביא אותך למקום הזה. אבל אם תעשי זאת בעצמך, תלמדי על עצמך משהו חדש ושונה".
לו עצמו לקח זמן לעשות את זה ("יותר מ־20 שנה") והוא עדיין לא רוקד, אבל הוא מבין יותר טוב את הכוח של זה לכל אדם עבור עצמו, לעסקים שלו וגם לחברה כולה. "כשאנחנו מתרגלים עליונות אלגוריתמית קל לצמצם את הקופסה של מי שאנחנו אמורים לדאוג לו", הוא אומר.
למה?
"היא בנויה כך שתקבע מה מועיל לנו, וכך יוצרת הבחנה בין קבוצת ה'פנים' לקבוצת ה'חוץ'. אינטליגנציה אמנותית, לעומת זאת, מבקשת להרחיב ככל האפשר את ההגדרה של קבוצת ה'פנים' — משום שאנחנו מבינים שהעתיד לא צפוי ושאנחנו לא יכולים לדעת למי ולמה עוד נזדקק, אנחנו מרחיבים את ההגדרה של 'אנחנו'. לפרופ' דאגלס ראשקוף (הוגה מוערך, חוקר תרבות ותקשורת) יש תובנה מצוינת בהקשר הזה: לפני כמה שנים הוא נשכר כיועץ לאליטות טכנולוגיות סופר־עשירות, לאנשים שבנו לעצמם בונקרים כי היו משוכנעים שאנחנו נמצאים על סיפה של אפוקליפסה. הם שאלו אותו איך הם יכולים להבטיח שלאחר האפוקליפסה, כשהם יהיו מבוצרים בבונקרים שלהם, אנשי האבטחה שלהם לא יפנו נגדם. ראשקוף השיב: 'שלמו כבר עכשיו על בת המצווה של הבנות שלהם'. במילים אחרות, אין פתרון אלגוריתמי לחיים בתוך מציאות חברתית משותפת".
ויש לחיבור, כאמור, גם יתרונות עסקיים קונקרטיים יותר. "כשאנחנו מתחילים לאמץ חשיבה אמנותית וקוגניציה גופנית אנחנו מבינים שאפשר ללמוד המון על יזמות מאמנים, על ניהול מפסיכולוגים ועל תודעה מאנשי דת. כאקדמאי בתחום העסקים אני מדבר עם מנכ"לים ועם חוקרי כלכלה ואסטרטגיה, וכולנו בערך חושבים אותו הדבר וכולנו בערך מדברים אותו הדבר והשפה שלנו זהה והחוויות שלנו זהות. לפעמים זו הסיבה שעסקים נתקעים לכן צריך לקדם אינטליגנציה אמנותית. אנחנו רק בשלבים המוקדמים של הבינה המלאכותית, ולכן חשוב לקדם תקווה חברתית וקוגניציה גופנית".
ואיך נכון לעשות את זה? מה אתם עושים בעמותה שלכם?
"אנשי העליונות האלגוריתמית מבקשים לגרום לך להאמין שהעתיד שהם דוחפים אליו בלתי נמנע. זה שטויות. לכן אנחנו מנסים לגרום למורים לפתח את האינטליגנציה האמנותית של הילדים. לכן אנחנו עובדים עם עסקים שמוכנים לומר: 'גם אם נשלב AI בתהליכי העבודה שלנו, עדיין נעסיק בני אדם'. לכן אנחנו מארחים אירועים ציבוריים, בגלריות, בתיאטראות ובמרחבים יצירתיים אחרים, שבהם אנחנו מעודדים אמנים לחשוב מחדש על המודלים העסקיים שלהם, כדי שיוכלו להמשיך להתקיים כמגדלורים של תקווה, כפי שתמיד היו. יש כל מיני דרכים לדחוף קדימה את החשיבה האנושית, וזה מה שצריך לעשות".
