אני רואה את זה מקרוב. אני מרצה באוניברסיטאות, ובתוך פחות משלוש שנים, מוסדות בני מאות שנים השתנו מן היסוד. סטודנטים מגישים עבודות שנכתבו, חלקן או כולן, בעזרת מודלי שפה. מרצים, מצדם, בודקים אותן בדיוק באותם כלים. לא רק הסטודנטים הפסיקו לחקור, לתהות, ולשהות באי הוודאות - מרכיבים שהם חלק מהלמידה - גם המרצים שלהם הפסיקו. וכולנו ממשיכים להתנהג כאילו הכל כבשגרה.
זו המציאות החדשה: לראשונה אנחנו מעבירים את החשיבה עצמה לישות אחרת. לא את הזיכרון, כפי שעשינו עם המצאת הכתב. ולא את החישוב, כפי שעשינו כשנולד המחשב. אלא את הליבה הקוגניטיבית. אותם לילות שבהם שברנו את הראש על פסקה או הוכחה מתמטית, עד שנולד משהו שהיה באמת שלנו. זה השריר, והוא נחלש.
המספרים מהתעשייה מספרים סיפור זהה. סאטיה נדלה, מנכ"ל מיקרוסופט, אמר ש־30%-20% מהקוד שלה הוא כיום תוצר מכונה. קווין סקוט, סמנכ"ל הטכנולוגיה של החברה, צופה שבתוך ארבע שנים 95% מהקוד יווצר בידי AI. אנתרופיק הודיעה ש־80% מהקוד שלה כבר נכתב על ידי קלוד. אבל הנתונים המדהימים האלה לא מספרים מה קורה לאדם שיושב מול המסך. מתכנתת זוטרה ב־2026 כבר לא כותבת קוד כפי שכתבה רק לפני שנתיים. היא בעיקר יוצרת פרומפטים ומאשרת. זה קורה כמעט בכל מקצוע: עורכי דין, רואי חשבון, חוקרים. חלק גדול מהזמן מוקדש לאישור או דחייה של החלטות שבינה מלאכותית קיבלה עבורנו. כל אישור כזה הוא הבעת אמון קטנה בתהליך שאיש לא יכול לבדוק מתחילתו עד סופו.
פעמים רבות לא מדובר בהחלטות זניחות. בארצות הברית, מערכות AI משמשות חברות ביטוח כדי לאשר או לדחות תביעות, ובתי משפט להעריך סיכון חזרה לעבריינות. בבתי חולים, כלי AI מציגים לרופאים המלצות אבחון. בישראל, כפי שפורסם, מערכות AI משולבות בהערכת מטרות צבאיות. הדפוס בכל המקרים זהה: מערכת שאיש לא מבין עד הסוף מציעה פלט, אדם מאשר בשבריר שנייה, וההחלטה יוצאת לפועל.
"לא מבינים מה יצרנו"
גם החברות שבונות את המערכות כבר לא יודעות להסביר אותן. הן שולטות בפרוטוקול האימון, אך גם עבורן התוצאה אינה ידועה מראש. הן מכווננות את הפרמטרים אך נותרות מופתעות מהיכולות - ומהכשלים - שצצים. הן לא יודעות למה מודל סיפק תוצאה מסוימת. הן בראו את המנגנון, אך אין להן יכולת לעקוב אחר הלוגיקה הפנימית שלו. נכון, במדעי המוח אנחנו נתקלים בבעיה דומה. החוקרים יודעים למפות אילו אזורים במוח אחראים על ראייה או שפה, אך מתקשים לפענח את השפה הפנימית של הזרמים החשמליים. איש אינו יכול להצביע על נקודה מסוימת ולומר: כאן נולד זיכרון ריח השוקו מהילדות. אלא שהמוח האנושי הוא תוצר של מאות אלפי שנות אבולוציה שעיצבו בנו אינטואיציה בסיסית לגבי אופן פעולתו. מודלי השפה, לעומת זאת, נבנו בשנים אחדות. אין לנו אבולוציה משותפת איתם. אנחנו זרים לאופן שבו הם מגיעים למסקנות.
לאנתרופיק יש צוות מחקר שנקרא "הסבריות" (Interpretability), שתפקידו לנסות להבין, בדיעבד, מה המודל עשה ולמה. לעתים הוא מצליח. הרבה פעמים לא. "אנשים מודאגים לגלות שאיננו מבינים איך היצירות שלנו עצמנו עובדות. דאגתם מוצדקת: חוסר ההבנה הזה חסר תקדים בתולדות הטכנולוגיה", הודה מנכ"ל החברה דריו אמודיי. סם אלטמן, מנכ״ל OpenAI, אומר דברים דומים. החברות שמייצרות את כלי ה־AI, שמשמשים מאות מיליוני אנשים בתחומים רגישים, מצהירות שהן עצמן לא מבינות מה בנו.
לכאורה, מה הביג דיל. אנחנו לא מבינים עד הסוף גם איך מטוס נשאר באוויר, או איך עובד באמת האלגוריתם בפייסבוק. אך יש שני הבדלים עיקריים בין אלה ל־AI. הראשון הוא הקצב. ChatGPT הגיע ל־100 מיליון משתמשים בתוך חודשיים. לטלפון הסלולרי נדרשו 12 שנה להגיע למחצית מזה. למכונית נדרשו 62 שנים. ובששת העשורים שחלפו עד התפשטות המכוניות היה די זמן לכתוב חוקי תנועה, לפתח ענף ביטוח וליצור נורמות. עם AI אין הזמן הזה. עד שמחוקק מנסח טיוטת הסדרה של שימוש בו, יוצא מודל חדש שאת יכולותיו הטיוטה כבר לא מכסה. ההבדל השני יסודי יותר. במקרה של מטוסים, מהנדסי בואינג יודעים איך המטוס טס. באותו אופן, מהנדסי מטא יודעים איך הפיד שבנו עובד (הם פשוט לא מספרים). מי שלא יודע הוא הנוסע, המשתמש - צרכני הקצה. לעומת זאת, במקרה של מודלי שפה, מי שבנה אותם הוא זה שלא יודע.
קראו עוד ב"מוסף כלכליסט":
גאולה או חורבן – עכשיו!
המונח "סינגולריות", שטבע סופר המדע הבדיוני ורנור וינג'י ב־1983, מבקש לתאר את הרגע שבו התפתחות טכנולוגית תעבור את יכולת ההבנה והשליטה האנושית, תשאיר את בני האדם מאחור ותיצור שינויים לא צפויים בציביליזציה. זה הרגע שבו המכונה תהיה חכמה דיה לעצב מכונה חכמה ממנה, שתעצב את הבאה, וכן הלאה, במנותק מהקצב האנושי. כיום הוויכוח מתי יגיע הרגע הזה נקשר למהפכת הבינה המלאכותית. לוחות הזמנים: סוף 2026 (אילון מאסק), במהלך 2026 (דריו אמודיי), או 2047 (סקר בקרב חוקרי AI). אבל הסינגולריות אינה אירוע טכנולוגי עתידי מובחן, נקודת מפנה שמעבר לה הכל ישתנה. הסינגולריות תתגשם בסדרת אירועים שיצברו מסה קריטית, עד שלא יהיה ניתן להתכחש לה עוד. והאירועים האלה מתרחשים כבר היום, בכל אינטראקציה שלנו עם כלי AI. הסינגולריות היא הרגע שבו אנחנו מפסיקים להבין מה המכונה עושה ולמה, אבל ממשיכים להשתמש בה בכל זאת. הרגע הזה כבר כאן. הוא רק לא נראה כמו שתיארנו לנו.
לרעיון של רגע יחיד שאחריו "הכל ישתנה" יש ניחוח תיאולוגי. תהיה גאולה - או חורבן - אך האחריות המוסרית היא בידי כוח עליון. "הסינגולריות תגיע" הוא טיעון צופה פני עתיד. אלא שגורמים שונים בונים את המערכות הללו היום. מישהו מחליט איך הן ייבנו, מישהו מפקח - או דווקא לא. מישהו מתמחר, פורס ומשווק. אלה החלטות פוליטיות, עסקיות, שמקבלים בני אנוש בחדרי ישיבות. הן אינן כוח עליון, אך השפה הסינגולרית "העתידית" הופכת אותן לגזירת גורל. לכאורה, כל עוד הסינגולריות לא כאן, אנו פטורים מלהסתכל על מה שקורה מתחת לאפנו, גם אם מודלים כבר מכריעים היבטים קריטיים בחיינו בלי שאיש יודע להסביר. אבל יכולות הטכנולוגיה לא מחכות לנקודה סמלית בעתיד. הן כאן, וחובה לטפל בהן.
הכותבת היא מנכ״לית Humane AI, מומחית אינטראקציית אדם־AI
