המוח האנושי שוקל פחות מ־1.5 ק"ג וצורך כחמישית מהאנרגיה של גוף אדם בוגר במנוחה. הפעילות העצבית הזו יקרה מבחינה אנרגטית, ולכן המוח מגביל את מספר הנוירונים שיכולים לקיים פעילות גבוהה בו־זמנית ומעודד דפוסי פעילות וקידוד חסכוניים. גם החשיבה עצמה נוטה לחסוך במאמץ: כשאפשר להגיע לתוצאה דומה בכמה דרכים, אנחנו נוטים להעדיף את הדרך הדורשת פחות עבודה קוגניטיבית.
בספרו "לחשוב מהר, לחשוב לאט" מכנה פרופ' דניאל כהנמן את הנטייה לנווט למינימום מאמץ בשם "חוק המאמץ המזערי". חוק זה חל על מאמץ קוגניטיבי ופיזי כאחד, ולפיו כשיש כמה דרכים להשיג מטרה, ניטה לבחור בזו התובענית פחות. כדי להמחיש זאת הוא מתאר שתי צורות חשיבה: "מערכת 1" ו"מערכת 2". מערכת 1 פועלת במהירות, באוטומטיות, באופן אינטואיטיבי וכמעט ללא מודעות מצדנו. היא זו שמזהה מיד הבעת פנים כועסת או משלימה בן רגע את הצירוף "לחם ו...". לעומתה, מערכת 2 איטית ותובענית, ונכנסת לפעולה כשנדרש קשב רב, למשל בעת חישוב התרגיל 17X24.
בשגרה, מערכת 1 מייצרת התרשמויות ואינטואיציות ללא הרף, ואילו מערכת 2 פועלת במצב של מאמץ נמוך ונוטה לאמץ את הצעותיה של מערכת 1 כמעט ללא שינוי. היא מתגייסת במלואה רק כשמערכת 1 נתקלת בקושי, או כשנדרש עיבוד מפורט ומעמיק יותר.
הבינה המלאכותית מוסיפה למשוואה של כהנמן משתנה חדש. לכן ד"ר סטיבן שו (Shaw) ופרופ' גדעון נייב (Nave) מאוניברסיטת פנסילבניה מציעים עדכון למודל שלו — "תיאוריית שלוש המערכות" (Tri-System Theory). במאמר שפרסמו השנה הם מסבירים שלשתי המערכות שבמוח נוספה מערכת שלישית, חיצונית: הבינה המלאכותית. היא מהירה וזמינה כמו מערכת 1, אבל מנתחת ומנמקת כמו מערכת 2. והבונוס? אין לה שום מחיר אנרגטי מבחינתנו. עבור בני אדם, שהם מטבעם "קמצנים קוגניטיביים", מדובר בפיתוי המושלם.
מהאצלה לכניעה
מיקור חוץ של פעילות מנטלית אינו דבר חדש. אנחנו משתמשים ב־notes בנייד כדי לזכור מה לקנות בסופר, ובווייז כדי לנווט. זוהי "האצלה קוגניטיבית" (Cognitive Offloading) — העברה של חלק מהמאמץ הקוגניטיבי לכלי חיצוני כדי להפחית את העומס עלינו. העניין עם הבינה המלאכותית הוא שהיא מרחיבה את ההעברה הזאת באופן דרמטי. כשאנחנו משתמשים במחשבון כדי לבצע פעולת חילוק, אנחנו יודעים מה אנחנו שואלים ומוסרים לכלי רק חלק מהעבודה. אבל כשאנחנו מציבים שאילתא ל־AI, אנחנו מכניסים את המערכת החכמה לתוך המרחב שבו היה אמור להתגבש השיפוט העצמאי שלנו. זה כבר מצב קיצוני יותר, ששו ונייב מכנים "כניעה קוגניטיבית" (Cognitive Surrender).
מערכת 2, כפי שכהנמן מסביר, נכנסת לפעולה במקרים של קושי או סתירה שדורשים מאיתנו לעצור לבדוק. אלא שה־AI מגיש לנו תשובות שוטפות בביטחון סמכותי ובכך מפחית בדיוק את החיכוך שאמור לעורר את הבדיקה הזו. רף הבדיקה שלנו נחלש ומנגנוני הביקורת נרדמים. כשהבדיקה נחלשת, גם המסגור והנימוקים שהמערכת מציעה יכולים להיטמע בתוך שיקול הדעת שלנו. אנחנו עדיין חווים את ההחלטה כשלנו — הרי אנחנו אלה שאישרנו אותה — אבל חלק מתהליך החשיבה שקדם לה כבר עוצב עבורנו מבחוץ.
התיאבון למאמץ
בימים אלה נפתחת שנת הלימודים האקדמית, ושאלת "המערכת השלישית" עוברת מהמעבדה אל הכיתה. מאות אלפי סטודנטים חוזרים לקמפוסים כשבידיהם כלי ששובר את המשוואה האקדמית הישנה, שלפיה תוצר טוב מעיד על יכולת והבנה של הסטודנט שהגיש אותו. היום סטודנטים יכולים להפיק בקלות פתרונות מלוטשים, כשבפועל ה־AI ביצע את רוב העבודה הקוגניטיבית עבורם. והרי למידה אמיתית מתרחשת בדיוק בתוך המאמץ שהתוצר הסופי מסתיר. כשסטודנט נאבק בחומר חדש, מנסה להבין, טועה, חוזר לאחור, שולף ידע ומארגן אותו מחדש, הוא בונה בהדרגה את המבנים שיאפשרו לו להתמודד בעתיד עם בעיה דומה בכוחות עצמו. מומחיות היא במידה רבה תוצאה של הצטברות ארוכה של מפגשים כאלה.
סקר שפרסמו השנה מכון המחקר הבריטי HEPI ופלטפורמת הלמידה אונליין Kortext העלה כי 94% מהסטודנטים נעזרים בבינה מלאכותית יוצרת בעבודות אקדמיות. העובדה שהשימוש ב־AI כה רווח היא בשורה מצוינת. סטודנטים מתנסים כבר במהלך הלימודים בטכנולוגיה שתהפוך לחלק מסביבת העבודה שלהם ורוכשים ניסיון מעשי בשימוש בה. האתגר של האקדמיה הוא להפוך את הניסיון הזה לאוריינות של ממש: לדעת להעריך תוצרים, להשוות מקורות, להחזיק עמדה עצמאית ובעיקר לנהל במודע את חלוקת העבודה הקוגניטיבית בינינו לבין המכונה.
צוות של MIT שבחן השנה את השימוש בבינה מלאכותית בהוראה ובלמידה מדגיש את חשיבותו של "חיכוך קוגניטיבי" (Cognitive Friction) — המאמץ וההתמודדות שבעזרתם נבנה ידע. הם מצאו שאנשים שנוטים להיכנס מרצון לחשיבה מאומצת ואף ליהנות ממנה, "נכנעים" פחות לבינה המלאכותית.
כאן נוצר לאקדמיה תפקיד חשוב במיוחד: לשים פחות דגש על העברת ידע, ויותר דגש על טיפוח תיאבון למאמץ ולחשיבה. סטודנט שלומד ליהנות מעצם השאלה ידע לחשוב יחד עם הבינה; סטודנט שלמד רק לספק תוצרים ייכנע לה, כהגדרתם. בעולם של תשובות זולות וזמינות, חשוב שנטפח בוגרים שמוכנים להשהות את קבלת הפתרון, ולהפעיל שיקול דעת עצמאי גם כשהמערכת מגישה להם תשובה מפתה ומוכנה.
זה אתגר לא פשוט. האקדמיה נדרשת לבחון מחדש הנחות יסוד בנות מאות שנים בקצב של סטארט־אפ. לפני שנתיים היה קשה לדמיין שכיום כמעט כל סטודנט ישתמש בבינה מלאכותית בעבודות אקדמיות, ובעוד שנתיים סביר להניח שהשאלות שיטרידו אותנו ייראו אחרת לגמרי. בינתיים, החיכוך הקוגניטיבי הפך גם למנת חלקם של המרצים.
הכותבת היא מנכ״לית Humane AI, מומחית אינטראקציית אדם־AI
