הבינה המלאכותית לא חוזה את העתיד; היא מייצרת אותו
ככל שאנו מוסרים ל-AI סמכות להחליט מי יתקבל לעבודה, מי יקבל הלוואה ומי יופנה למסלול מצוינות, הוא כבר אינו רק מנתח את המציאות אלא מעצב אותה. דווקא משום שלא ניתן לחזות במדויק את העתיד האנושי, השאלה החשובה היא מי יחזיק במושכות ההכרעה – האלגוריתמים או אנחנו
האם יגיע היום שבו מערכות בינה מלאכותית דוגמת ChatGPT ו-Claude יוכלו לחזות את החלטותינו, לנתב את חיינו ואף לשלוט בעתיד החברה האנושית?
במשך עשרות שנים תסריט כזה היה נחלתם של סופרי המדע הבדיוני. החל מ"אנחנו" של יבגני זמיאטין ו"עולם חדש מופלא" של אלדוס האקסלי, שתיארו חברות שבהן השלטון מעצב את האדם באמצעות פיקוח, התניה והנדסה חברתית, דרך "דו"ח מיוחד" של פיליפ ק' דיק, שהציג עולם שבו ניתן לכאורה לחזות פשעים עוד בטרם התרחשו, ועד סדרות מודרניות כמו Black Mirror, Westworld ו-Devs, העוסקות בדרכים שבהן טכנולוגיה, אלגוריתמים ומערכות חישוביות עשויים לחזות, להשפיע ואף לכאורה לקבוע את התנהגותם ועתידם של בני האדם.
אלא שבשנים האחרונות הגבול בין דמיון למציאות הולך ומיטשטש. מערכות בינה מלאכותית מסוגלות לעבד כמויות עצומות של מידע, לזהות דפוסים מורכבים ולהפיק תחזיות מדויקות יותר ויותר. לכן השאלה אם ניתן לכמת ולחשב את העתיד האנושי כבר אינה נשמעת מופרכת כפי שנשמעה בעבר.
מערכות בינה מלאכותית משמשות כיום לקבלת החלטות בתחומים רבים: הן מסייעות במיון מועמדים לעבודה, מעריכות סיכון רפואי, מנבאות הישגים לימודיים ואף מדרגות את הפוטנציאל העתידי של ספורטאים צעירים. ככל שהמערכות הללו משתפרות, גוברת גם התחושה שאולי אנו צועדים לעבר עתיד שבו אלגוריתמים לא רק יחזו את החלטותינו, אלא גם ישפיעו עליהן ויעצבו את מסלול חיינו. תפיסה זו מכונה "דטרמיניזם דיגיטלי".
במחקר חדש שפרסמנו בכתב העת Culture אנו מציעים תמונה מורכבת יותר. אנו גורסים כי גם אם הבינה המלאכותית תמשיך להתפתח בקצב הולך וגובר, קיימות מגבלות יסוד של הטבע ושל החברה האנושית שמונעות חיזוי מושלם של ההתנהגות האנושית ברמת הפרט, וביתר שאת ברמת החברה כולה. במילים אחרות – לא כל מה שניתן למדוד ניתן גם לחזות.
אחת הטענות במאמר נשענת דווקא על עולם הספורט. כל מי ששיחק כדורסל יודע שאפילו זריקות עונשין – אחת הפעולות הפשוטות והרוטיניות ביותר במשחק – אינן זהות זו לזו. למרות שמרחק הזריקה, גובה הסל, משקל הכדור והיעדר ההגנה קבועים, גם השחקנים הטובים בעולם אינם מצליחים לשחזר את אותה תנועה בדיוק פעם אחר פעם, כך שממוצע ליגת ה-NBA בעונשין עומד על 75%.
מחקרים נוירופיזיולוגיים מראים כי מקור התופעה הוא ב"רעש מוטורי" – תנודות זעירות ובלתי נמנעות בפעילות מערכת העצבים. התנודות הללו בעצבוב אינן טעות שניתן לבטל באמצעות אימון נוסף או אמצעים טכנולוגיים, אלא תכונה בסיסית של המערכת הביולוגית. אותו עיקרון פועל גם מחוץ למגרש: סטייה קלה של היד בזמן נהיגה, הקלדה שגויה בטלפון הנייד או מעידה קטנה במדרגות עלולות לשנות את רצף האירועים ולהוביל לתוצאות שלא ניתן היה לצפות מראש.
מכאן נובעות השלכות מרחיקות לכת. אם אפילו פעולות מוטוריות פשוטות מכילות מרכיב בלתי צפוי, הרי שהן משפיעות על כל שרשרת האירועים שבאה בעקבותיהן: על האנשים שאנו פוגשים, על המידע שאנו מקבלים, על ההחלטות שאנו מקבלים ועל מסלול חיינו. אי־ודאות קטנה יכולה, לאורך זמן, להתגלגל לשינויים מהותיים.
כאן נכנס המושג "התהוות", המרכזי בעולם המערכות המורכבות. זהו מצב שבו חיבור בין חלקים רבים יוצר תופעה חדשה לחלוטין. דוגמה לכך היא פקק תנועה: לעיתים פקק נוצר ללא עומס חריג, תאונה או עבודות בכביש, אלא רק בגלל תגובת שרשרת של בלימות ומעברי נתיב בין נהגים. גם אם נדע הכל על כל נהג ורכב בכביש, לא נוכל לנחש מתי והיכן ייווצר הפקק, כי התופעה נולדת מתוך היחסים בין הנהגים ולא מהמאפיינים של כל אחד מהם בנפרד.
החברה האנושית פועלת באופן דומה. אינספור אינטראקציות קטנות בין בני אדם, ארגונים ומוסדות יוצרות דפוסים חדשים שלא ניתן לחזות מראש, גם כאשר ברשותנו כמויות עצומות של נתונים. לא נוכל לחזות או לנתב באופן מוחלט התנהגות של אנשים. כך למשל, איש אינו יכול לחזות בוודאות איזה סרטון יהפוך לוויראלי, מדוע אדם הופך לכוכב בן לילה או מתי תתרחש מפולת מניות בבורסה.
האם פירוש הדבר שהמציאות אקראית לחלוטין ושאין מה לחשוש מבינה מלאכותית? ממש לא. כאן טמון הפרדוקס: אלגוריתם אמנם אינו מסוגל לחזות את העתיד, אך ברגע שאנו מעניקים לו סמכות לקבוע מי יתקבל לעבודה, מי יזכה בהלוואה או מי יופנה למסלול מצוינות – הוא מעצב את המציאות בפועל. במקום לנבא את העתיד, הוא פשוט מייצר אותו.
השאלה אינה אם לבינה המלאכותית יש כוח חישובי מספיק כדי לשלוט באנושות, אלא עד כמה אנחנו מוכנים למסור לידיה את מושכות ההכרעה. דווקא משום שהעתיד האנושי מורכב מכדי להיקבע על ידי נוסחה, ההכרעות הערכיות והחברתיות החשובות ביותר חייבות להישאר בידיים שלנו.
פרופ' איליה מורגולב הוא ראש תוכנית MPE חינוך גופני וספורט במכללת קיי
פרופ' פליקס לבד הוא חוקר ומרצה במכללת קיי ומומחה בינלאומי בתורת המערכות המורכבות
