"אנחנו הפרות של העתיד": תיאוריית ה-AI של יובל נח הררי
ההיסטוריון הסביר בריאיון בצ'כיה, שבדיוק כמו שפרות לא יודעות מה זה כסף על אף שהוא משפיע על חייהן, בעתיד הקרוב ה-AI יבנו מערכות פיננסיות ומשפטיות כל כך מתוחכמות שבני האדם לא יצליחו להבין כיצד הן פועלות. "ה-AI תשתלט על הבירוקרטיה של המערכת הפיננסית, תיצור מערכות פיננסיות ומשפטיות מורכבות יותר", אמר
בני אדם הם "הפרות של העתיד", כך ניסה ההיסטוריון והפילוסוף יובל נח הררי להסביר את עתיד האנושות תחת ה-AI ולהזהיר מפניו. בריאיון שהעניק לטלוויזיה הציבורית בצ'כיה, השווה הררי את הקשר העתידי שיהיה לאנושות עם AI לדרך שבה פרות חיות תחת שליטה אנושית בחקלאות ובמערכת הפיננסית, וזאת מבלי להבין כלל כיצד המערכות הללו עובדות.
"פרות יודעות שבני אדם קיימים, הן הרי יכולות לראות אותנו. אבל פרות לא יודעות שכסף קיים", אמר. "כיצד אפשר להסביר לפרות מהו שוק האג"ח, על אף שהוא שולט בחיים שלהן?"
לכן, לפי הררי, בדיוק כפי שפרות מושפעות מדברים כמו שוקי המניות והאג"ח אף שהן לא מבינות מה זה כסף או את המבנה הכלכלי שמשפיע על חייהן, כך בני האדם עלולים למצוא את עצמם תלויים יותר ויותר במערכות AI שההחלטות שהן מקבלות והלוגיקה שמפעילה אותן היא מעבר להבנה האינטלקטואלית שלהם.
"אנחנו הפרות של העתיד", סיכם. ההשוואה הזו נועדה להדגים כי הסכנה מ-AI היא לא בהכרח שהרובוטים או המכונות יתקפו פיזית בני אדם או יהרגו אותם, אלא הררי הזהיר כי הטכנולוגיה יכולה להשיג בהדרגה שליטה על מערכות קריטיות, במיוחד הפיננסיות והבירוקרטיה, ובכך להפחית את היכולת האנושית להבין ולהשפיע על החלטות שמעצבות את החברה. "מה שיקרה בעתיד זה לא שה-AI יהיה רובוטים שיצאו לרחובות וירו בנו. ה-AI משתלטת על המערכת הפיננסית. היא משתלטת על כל הבירוקרטיה", אמר.
הוא הסביר כי ל-AI יש יתרון ייחודי בסביבות מינהלתיות ופיננסיות, וזאת מכיוון שהטכנולוגיה יכולה לעבד ולזכור כמויות עצומות של מידע. "לא קיים בנקאי אנושי שיכול לזכור את כל העסקאות שביצע הבנק, אבל בנקאי AI יכול לעשות זאת".
לפיכך, ה-AI תוכל להשתמש ביכולות הללו כדי לבנות מערכות פיננסיות ומשפטיות מתוחכמות יותר, שאמנם יפעלו כמו שצריך אך המורכבות הזו שלהן תקשה על אנשים, רגילים ומומחים כאחד, להבין אותן. חוסר האיזון הזה עלול, לפי הררי, ליצור עתיד שבו בני האדם הם אמנם חלק מהמערכת ששולטת על חייהם, אך אין להם שליטה משמעותית על תפעולה.
"ה-AI תשתלט על הבירוקרטיה של המערכת הפיננסית, תיצור מערכות פיננסיות ומשפטיות מורכבות יותר, שאנחנו לא נוכל להבין, וכך בדיוק כפי שפרות לא יכולות להבין כיום את המערכת הפיננסית ששולטת בחייהן, אנחנו לא נוכל להבין את המערכת הפיננסית מבוססת ה-AI שתשלוט בחיינו בעוד 10 או 20 שנים...אנחנו הפרות של העתיד".
