$
חדשות טכנולוגיה

יבמ יוצאת מתחום זיהוי הפנים: "מתנגדת לשימוש בטכנולוגיה למעקב והפרת זכויות אדם"

בעקבות המחאה בארה"ב: החברה הודיעה רשמית שהיא יוצאת מתחום זיהוי הפנים מחשש לשימוש בטכנולוגיה למעקב המונים ופרופיילינג גזעני. זו אחת הפעולות הפוליטיות הראשונות של מנכ''ל החברה החדש, ארווינד קרישנה

רפאל קאהאן 13:4509.06.20
IBM הודיעה רשמית היום (ג') על כך שהיא יוצאת מתחום זיהוי הפנים לשימוש כללי ושהיא מתנגדת בפירוש לשימוש בטכנולוגיה הזו למעקב המונים ופרופיילינג גזעי. הטכנולוגיה הזו הפכה בשנים האחרונות לסמל בעיני פעילים וארגוני זכויות אזרח שרואים בה אמצעי להגדיל את השליטה של הממשלות על חיי האזרחים בתירוץ של שיפור הביטחון. במדינות טוטליטריות היא גם משמשת כאמצעי לשליטה בהמון מה שמגדיל את הכוח של השליטים לעצור בקלות מתנגדי משטר, עיתונאים או פעילים חברתיים.

 

בנוסף דווחו לא מעט מקרים בהם הטכנולוגיה הוכיחה את עצמה כלא מדויקת כאשר הטענה העיקרית היא שיכולת האבחנה שלה בכל הקשור למי שאינו לבן אינה טובה. כך למשל המערכת של אמזון, Rekognition, נתפסה בטעויות זיהוי גסות שלאחר ניתוח נבעו בגלל אחוז דיוק נמוך מאוד על בעלי עור שחור. אך כל המערכות סובלות מכך, בין אם מדובר בבני אדם ממוצא אסייתי, ים תיכוני או כל מוצא אתני שאינו מהווה את הרוב במקום בו היא מופעלת.

 

זו אחת הפעולות הפוליטיות הראשונות של מנכ''ל החברה החדש, ארווינד קרישנה. במכתב ששלח לעובדים ושפורסם בבלוג החברה, קרישנה מסביר שהחברה "מתנגדת בתוקף ואינה תומכת כלל בשימוש בטכנולוגיה, כולל זיהוי פנים, גם של ספקים אחרים, שתשמש למעקב המוני, פרופיילינג גזעי, הפרה של זכויות אדם ומניעה של חופש או כל שימוש אחר שאינו עומד בקו אחד עם עקרונותינו".  
ארווינד קרישנה, מנכ"ל IBM ארווינד קרישנה, מנכ"ל IBM צילום: IBM

 

בחברה נאמר לאתר Axios שההחלטה התקבלה כבר לפני חודשים רבים ושהלקוחות עודכנו, עם כי מדובר בפרסום הפומבי הראשון שלה. "IBM לא תשווק, תמכור או תתמוך במערכות כאלה", אך היא כן תתמוך בלקוחות קיימים שמפעילים אותן במסגרת חוזים שוטפים. לא ברור אם הפרסום פורסם בפומבי כחלק מהלך הרוח הקשה בארה"ב בעקבות הפגנות המחאה על רצח ג'ורג' פלויד השחור בידי שוטר לבן.
משרדי יבמ בניו יורק משרדי יבמ בניו יורק צילום: בלומברג

 

עם זאת קרישנה כן יוצא בהצהרה בה הוא מבקש חקיקה שתסייע לבצע רפורמות בפעילות המשטרה וכן שימוש אחראי בטכנולוגיה. ב-IBM הדגישו שלטכנולוגיה כן יש מקום בתחום אכיפת החוק, אך שכל שימוש בה צריך להתבצע באופן מבוקר ואחראי כמו גם לבדוק שהיא לא מוטה. החברה גם קראה להגברת האכיפה על התנהגות "בלתי הולמת" של המשטרה.
בטל שלח
    לכל התגובות
    x