מטא עצרה תוכנית למעקב אחר העובדים - בעקבות דליפת מידע
באפריל חשפה ענקית הטכנולוגיה תוכנית לניטור ההקשות במקלדת ופעולות העכבר של עובדיה לצורך אימון מודלי AI; ואולם לאחר שהתברר כי המידע שנאסף נחשף לכלל העובדים בעקבות תקלת אבטחה - התוכנית נעצרה
מטא עצרה תוכנית שנויה במחלוקת לניטור ההקשות במקלדת ופעולות העכבר של עובדיה, לצורך אימון מודלי AI, לאחר שהתברר כי תקלת אבטחה פנימית חשפה את המידע שנאסף לכלל העובדים. "עצרנו את התוכנית בזמן שאנו חוקרים את הסוגיה", נמסר מהחברה.
באפריל חשפה מטא תוכנית ריגול פולשנית נגד עובדיה בארה"ב, במסגרתה היא אספה את הפעולות שביצעו במחשביהם ואת התוכן שהוצג על המסך שלהם. זאת, במטרה ליצור בסיס נתונים שישמש לאימון מודלי AI מתקדמים, שיוכלו בעתיד להחליף את העובדים שיוצרים את המידע שעליו הם אומנו.
עם ההשקה, לא היתה לעובדים אפשרות לסרב לאיסוף המידע. אחרי מחאה חריפה בחברה, התירה מטא לעובדים להשהות את הניטור לתקופות קצרות על מנת לבצע משימות פרטיות. למרות ביקורת נרחבה בתוך החברה ומחוצה לה, הנהגת מטא הגנה על התוכנית בטענה שאיסוף המידע חיוני על מנת לאמן מערכות AI להפעיל תוכנות בדומה לבני אדם, ושעובדי החברה הם הדוגמה הטובה ביותר למודלים.
ואולם, אתמול (ב') חשף אתר "וויירד" שהמידע הרגיש שנאסף לא היה מוגן בצורה מספקת, ובפועל היה נגיש לכלל עובדי החברה. לפי הדיווח, עובדי מטא קיבלו אתמול התרעת אבטחה שלפיה נחשפו נתוני עובדים שכוללים "פרומפטים מלאים ותמלילים, שיחות פרטיות ומידע על ביצועי עובדים".
סטפן קסריאל, סגן נשיא למחקר AI במטא, אמר בפורום פנימי שהתקלה התגלתה ב-18 ביוני וטופלה בתוך ארבע שעות, אך שהתיקון לא עבד. "נפעיל מחדש את התוכנית רק כשנהיה בטוחים ביעילות של בקרי הגנת המידע שלנו. מטא תשתף מידע נוסף על עתיד התוכנית, מכיוון שנאסף כבר מספיק מידע על מנת להעריך את הערך ארוך-הטווח שלה".
במענה לשאלות עובדים, סמנכ"ל הטכנולוגיה של מטא, אנדרו בוזוורת', כתב בפורום פנימי שהיישום של תוכנית הריגול לא עמד בתקני החברה. "הגדרנו לא נכון את רשימת הגישה, ואנחנו צריכים להבין איך זה קרה, לאתר כל גישה למידע ולהבין אותה", הוסיף. המחדל של מטא בולט במיוחד לאור העובדה שרק לפני כחודשיים ניסה בוזוורת' להרגיע את חששות העובדים כשטען שהתוכנית מופעלת תחת "שליטה הדוקה", ועושה שימוש באותם תקני הגנה ובקרות גישה כמו מאגרי מידע רגישים אחרים.
עובד לשעבר במטא תיאר את התקלה כ"בלגן", וציין שעובדים צפו שדבר מסוג זה יתרחש. "כשעובדים העלו חששות, ההנהלה הגדילה את המחויבות לתוכנית וכשלה להכיר בסיכונים שעובדים העלו בנוגע לבטיחות ופרטיות המידע של עובדים ולקוחות", הוא אמר לוויירד. "ההנהגה יצרה סביבה סמכותנית שבה עובדים לא זוכים לכבוד וקולם אינו נשמע".
ממטא נמסר בתגובה: "עיצבנו תוכנית זו בקפידה עם הגנות פרטיות, ואף שאין לנו בשלב זה אינדיקציה לכך שעובדי מטא ניגשו למידע בצורה לא ראויה, אנחנו משהים את התוכנית בעודנו חוקרים".
