הלחץ הנפשי של עובדי תעשיית ה-AI גובר: "חשים שאנחנו בונים משהו שגורם לנזק אמיתי"
נקודות עיקריות.כלכליסט AI
- עובדים וחוקרים בחברות הבינה המלאכותית המובילות מדווחים על שחיקה ופגיעה קשה בבריאות הנפש עקב חששות מהנזקים הפוטנציאליים של המערכות שהם מפתחים.
- הלחץ הנפשי נובע מהתחושה שהטכנולוגיה מתקדמת במהירות ללא מנגנוני הגנה מספקים, במיוחד בשימושים צבאיים ובזיהוי חולשות סייבר או יצירת נגיפים.
- חוקרים בכירים בתעשייה מתפטרים במחאה על כך ששיקולי בטיחות נדחקים לטובת מרוץ החימוש הטכנולוגי והשגת בינת-על.
עובדים בחברות ומעבדות ה-AI המובילות בעולם מתמודדים עם לחצים נפשיים חריפים בגלל חשש שהמערכות שהם מפתחים יגרמו נזק רציני לעולם ולחברה האנושית – כך מדווח הפייננשל טיימס. "יש תחושה של אובדן שליטה, ושאתה בונה משהו שגורם לנזק אמיתי", אמר לעיתון חוקר AI בגוגל.
בימים האחרונים בכירים בתעשיית ה-AI, ובראשם דריו אמודיי מאנתרופיק, סם אלטמן מ-OpenAI, ואלון מאסק מ-SpaceX, התריעו מאובדן שליטה על AI וקראו להאט את מירוץ החימוש בתחום. חששות אלו קיימים גם בקרב העובדים בתעשיית ה-AI, ולדברי מקורות גובים מהם נטל נפשי כבד.
לפי הדיווח, עובדים באנתרופיק, OpenAI, ודיפמיינד של גוגל התלוננו על מורל נמוך ושחיקה גבוהה כתוצאה מחששות הולכים וגוברים על קצב הפריסה המהיר של המודלים שהם מפתחים ויכולותיהם המתעצמות. כמה חוקרים בכירים התפטרו כתוצאה מהלחץ הנפשי, ואחרים סבורים שהתוצרים של עבודתם לא בטוחים מספיק להפצה פומבית.
"עבודה על הפיכת AI לבטוחה יותר מגיעה עם סיכון שחיקה, כי היא מרגישה כמו משימה בלתי אפשרית", אמר לפייננשל טיימס עובד בדיפמיינד. "העבודה על מערכות AI מגיעה עם סיכון לבריאות הנפש כי לא יודעים איזה שימוש יהיה בטכנולוגיה (באפריל, למשל, החל הפנטגון להשתמש במודלי AI של גוגל במבצעים צבאיים מסווגים, ע"כ). כל כך הרבה אנשים מוטרדים, היו התפטרויות שונות והרבה חופשות בגלל בריאות נפשית".
לדברי גורמים בתעשייה, מניעים מרכזיים של הלחץ הנפשי והחרדה שחשים העובדים הם פריסה של המודלים בתחומים קריטיים כמו לחימה או תשתיות קריטיות, והיעדר מנגנוני הגנה מספקים. חוקר לשעבר ב-AI Security Institute (Aisi) בבריטניה, הגוף המוביל בעולם לבדיקה עצמאית של מודלי AI, אמר שעובדים בתחומי סייבר וביוכימיה מודאגים במיוחד מהזינוקים האחרונים ביכולות מודלי AI שמאפשרים להם להשלים משימות מורכבות כמו זיהוי חולשות בקוד תוכנה ויצירת נגיפים.
"יש תחושה שדברים חסרי אחריות מוטמעים בטכנולוגיה ושזה לא משתנה", אמר החוקר. "יש חרדה מתמדת מאנשים שאומרים, מישהו יכול לעצור את זה, או שאנחנו צופים בעולם בוער?" עובד לשעבר אחר ב-Aisi סיפר: "האמונה שאתה עובד על הבעיה החשובה ביותר בעולם יכולה לגרום לתרבות ארגונית לחוצה מאוד עם הנהלה רעילה".
דברים אלו משתלבים עם אזהרות של עובדים בתעשייה לגבי המוצרים שהחברות שלהם מפתחות. מוקדם יותר החודש ג'ייקוב קוקסון, חוקר AI באנתרופיק, התפטר מהחברה כשהוא מתריע שהיא ו-OpenAI "מתחרות בדרך לבינת-על עם יכולת שיפור עצמית ומהמרות על החיים שלנו". חוקרים אחרים תיארו מציאות שבה חברות מורידות את התעדוף של בטיחות מודלים, בשעה שהן מאיצות את פיתוח היכולות שלהם.
