כנס AI
"צריך לייצר שיתוף פעולה בין אדם למכונה"
בכנס AI של כלכליסט בשיתוף Vultr הדגים ינאי זגורי, מנכ״ל ExperTeam, דיבייט בינו לבין בינה מלאכותית שעסק בשאלה מי צריך להוביל - האדם או המכונה. בעוד הוא טען שלא ניתן להחליף את שיקול הדעת האנושי, הצ'אט טען כי דווקא הבינה המלאכותית מנוטרלת מהטיות ואינטרסים זרים
ינאי זגורי, מנכ״ל ExperTeam וחבר סגל בפקולטה לטכנולוגיות למידה ב-HIT, הדגים על הבמה בכנס AI של כלכליסט בשיתוף Vultr דיבייט עם צ'אט בינה מלאכותית. הדיבייט עסק בשאלה מי מוביל את המהפכה - אנשים או בינה מלאכותית? מי הולך להחליט מי העובד שצריך להיפרד ממנו – האדם או המכונה? אנחנו או ChatGPT?
"האדם חייב להיות מי שיוביל את המהפכה", אמר. "אם אנחנו לא נוביל את המהפכה, תחשבו מה יקרה בארגון גדול שבו המכונה מחליטה ממי להיפרד, תחשבו מה יקרה לערכים שלנו. תחשבו מה יקרה ליום-יום שלנו, תחשבו מה יקרה לסיטואציות שבהן צריך לקבל החלטות אתיות, מוסריות, עמוקות, איך הדבר הזה לא הופך להיות סיטואציה שבה החזקים פשוט הופכים להיות החזקים יותר, כי מודל סטטיסטי יחליט איך לחלק את האושר, איך הופכים את זה לסיטואציה שבה האושר מתחלק באופן מהפכני אחרת? לדעתי, זו בדיוק הסיבה ששיקול דעת אנושי חייב להיות בתהליך".
הצ'אט השיב כי המכונה צריכה להוביל: "אתה טוען שהאדם חייב להוביל כדי לשמור על השיקולים האתיים והמוסריים וכדי להבטיח שההחלטות לא יהפכו את החזקים לחזקים יותר, אבל בואו נסתכל על זה אחרת. הטיעון שלי הוא שהמכונה צריכה להוביל דווקא משום שהיא חופשייה מהטיות ומהעדפות אישיות. כשאנחנו מדברים על ארגון גדול, החלטות שמבוססות על מודלים סטטיסטיים לא נועדו לחזק את החזק, אלא להביא להחלטות עקביות, שקופות ומהירות. אתה דואג שהמכונה תתעלם מהערכים, אבל האמת היא שהערכים עצמם יכולים להיות מוטמעים במערכת. המכונה יכולה לפעול על פי סט של כללים מוסריים שנקבעו מראש, בלי להיכנע להטיות רגשיות או ללחצים חברתיים, במקום לחשוב שאפשר לנצל את היתרון הזה כדי לקבל החלטות אובייקטיביות יותר, מהירות יותר, ולהבטיח שהארגון יתקדם בלי להיתקע בשיקולים אישיים שעלולים לעכב אותו".
זגורי טען כי "כמכונה, כל הטיעון שלך לא מבין את ההקשר האנושי, הרגשי, שאנחנו כבני אדם מבינים. בסוף הסטטיסטיקה רק לוקחת את העבר ומנסה לייצר פרדיקציה, מנסה להגיד מה יקרה, היא לא באמת מבינה את הניואנסים הקטנים של בני אדם שאנחנו מבינים אותם. כמה שאני אנסה לתאר את זה לפי הטיעון שלך ולתת למכונה את כל המוסר ואת כל המידע, אני בחיים לא אצליח להגיע לניואנסים האלה".
הצ'אט טען אז, בטון חברי, כי הבעיה היא בהטיות האנושיות. "אתה אומר שהמכונה לא מבינה את ההקשר האנושי והרגשי, שאתם כבני אדם מבינים את הניואנסים בצורה טובה יותר. עכשיו תן לי לחדד לך את הטיעון הנגדי שלי. הטיעון שלי הוא שהבעיה היא דווקא בהטיות של בני האדם. אנחנו מדברים על רגשות והקשרים, אבל בדיוק שם נכנסות ההטיות האישיות, האינטרסים והאגו. המכונה לא מושפעת מכל זה. היא לא מונעת מאגו או מהעדפות אישיות. דווקא הרגשות שאנחנו כל כך גאים בהן לפעמים גורמים לטעויות קשות. המכונה יכולה לפעול ללא ההטיות האלה, ולכן היא ראויה להוביל. במילים אחרות, לפעמים דווקא הניסיון שלנו לשמור על ההקשר האנושי הוא מה שמכשיל אותנו. המכונה מביאה תצפית נקייה, נקייה מהטיות אישיות ומסוגלת להחליט במהירות וללא אינטרסים נסתרים".
את הדיון סיכם זגורי בכך שזו שאלה של שיתוף פעולה. "השאלה היא לא מי יחליף את מי, אלא איך נוצר מודל של שיתוף פעולה שאחד מעצים את השני, איך אנחנו יודעים לחלק טוב את הזמן בינינו לבין המכונה. זה עניין של שיתוף פעולה - לא רק בין בן אדם למכונה אלא בין בני אדם לבני אדם. אם דיברנו על הצומת הזאת שאנחנו נמצאים בה, החזקים יחתזקו יותר או שפשוט אנחנו נחלק את זה באופן שווה. אם לא נלך למודלים של שיתוף פעולה, זה לא יקרה".
