אפילו בגוגל חוששים שה-AI יפסול את המועמד הלא נכון
נקודות עיקריות.כלכליסט AI
- חוקרים בצוות הבטיחות של גוגל דיפמיינד הביעו ספק במהימנות מערכות הבינה המלאכותית של החברה לסינון מועמדים, מחשש שקורות חיים איכותיים ייפסלו בטעות.
- הצוות יצר מסלול עוקף למערכות האוטומטיות המבטיח בחינה אנושית של המועמדויות, תוך הנחיית המועמדים להימנע משימוש בבינה מלאכותית בכתיבת תשובותיהם.
- הדיווח משקף מגמה רחבה של ביקורת על מערכות גיוס מבוססות בינה מלאכותית, הכוללת טענות להפליה על רקע גזע וגיל וחששות משימוש במניפולציות מצד מחפשי עבודה.
גוגל אמנם מפרסמת את כלי ה-AI שלה לארגונים כדרך שתסייע להם לעבור במהירות על כל קורות החיים המוגשים להם ולמצוא את המועמד המבטיח ביותר לכל תפקיד, אך חוקרי ה-AI שלה הטילו ספק במהימנות של הכלים הללו לגיוס עובדים, כך לפי דיווח בבלומברג.
צוות בטיחות והתאמת הבינה המלאכותית הכללית (AGI) של גוגל דיפמיינד, שפועל לצמצום הסיכונים הכרוכים בבינה מלאכותית מתקדמת, מעודד מועמדים למשרות הפתוחות בצוות למלא טופס מיוחד לצד הגשת המועמדות, כדי למנוע את האפשרות שהמועמדות שלהם תסונן אוטומטית על ידי מערכות ה-AI הפנימיות של החברה, כך לפי מסמך שהגיע לידי בלומברג, ובו נכתב בהסתייגות: "אנא, אל תשתפו את המסמך הזה בתפוצה רחבה".
"יש לנו מערכת הגשת מועמדות שבה קיימת הסתברות לא מבוטלת שקורות החיים שלכם ייפסלו בטעות או שייקח להם זמן רב מדי להגיע אלינו", נכתב במסמך. "מילוי הטופס הזה מבטיח שאדם אמיתי בצוות יראה את המועמדות שלכם". עם זאת, הם מזהירים את המועמדים משימוש ב-AI בעצמם. "לאותו בן אדם נמאס לקרוא תשובות של מודלי AI, כי כולן נשמעות אותו דבר".
דובר מטעם דיפמיינד של גוגל דחה את הטענה כי המערכות של החברה מסננות בצורה לא מדויקת את המועמדים. "הצוות יצר את הטופס המיוחד כדי שיעבור את הליך הסינון, ושקורות החיים יישלחו ישירות לחברי הצוות. אבל אין שום קיצורי דרך להתקבל לעבודה", הדגיש.
בעוד שיותר ויותר חברות נסמכות על AI בשבלי סינון וגיוס העובדים, כך גוברת הביקורת על התפקוד של המערכות הללו. טענה נוספת היא שהן מפלות מועמדים. כך, בדיקה שערכו בבלומברג מצאה כי ChatGPT של OpenAI הפגין סימנים לאפליה פוטנציאלית בהתבסס על שמות המועמדים. בדומה, נגד Workday Inc הוגשה תביעה בטענה שמערכת ההשמה שלה מסננת מועמדים בהתבסס על גזע וגיל, בניגוד לחוק. החברה הכחישה את ההאשמות וטענה כי בסופו של דבר בני אדם הם אלה שמקבלים את ההחלטות על גיוס עובדים. במקביל, חלק ממחפשי העבודה כבר למדו שיטות להשתמש ב-AI לטובתם על ידי מניפולציה על המסננים.
