סגור
גג עמוד לכלכליסט טק דסקטופ

דו"ח טכנולוגי
פייסבוק - אלגוריתם של השתקה או טעות שלומיאלית

אנשי ימין סבורים שפייסבוק היא חברה של סמולנים קטנוניים ששונאים אותם, שרק מחפשת דרכים להשתיק ולסרס את הקול שלהם, ובשמאל בטוחים שפייסבוק מתנכלת להם וחוסמת אותם בתדירות. אלא שהדבר לא כך בהכרח, והחסימות נובעות מכשלים באלגוריתם הבינה המלאכותית שאמון על סינון התכנים


מה שיפה בפייסבוק, זה שכולם בטוחים שהיא נגדם.
אנשי ימין סבורים שפייסבוק היא חברה של סמולנים קטנוניים ששונאים אותם, שרק מחפשת דרכים להשתיק אותם ולסרס את הקול שלהם – טענה שמאווררת תדיר בתקשורת בישראל ובארה"ב, בחסות עיתונאים משפיעים ופוליטיקאים מתוקשרים. היא אף מצאה את דרכה לתביעה שהגישה אתמול איילה בן גביר נגד פייסבוק בעקבות חסימת חשבון הווטסאפ שלה. לפי התביעה, החשבון נחסם "בשל סלידת הנתבעות מדעותיה הפוליטיות של בעלה של התובעת".
פעילי שמאל בישראל, מנגד, בטוחים שפייסבוק מתנכלת להם, מגבילה את יכולתם לפרסם תכנים וחוסמת אותם תדירות, כשהם נתלים בכך שג'ורדנה קטלר, מנהלת המדיניות של פייסבוק בישראל, שימשה בעבר כיועצת של ראש הממשלה בנימין נתניהו. תיאוריית קונספירציה אחרת, נטולת כל ביסוס, ששמעתי לאחרונה מציינת שפרקליטו של נתניהו עובד באותו משרד עורכי דין שמייצג את פייסבוק, ושהמשרד מהווה מעין גורם מחבר ביחסי קח-ותן בין שני הצדדים, במסגרתם מנע נתניהו את אישור חוק צנזורת הפייסבוק בתמורה להטבות שונות מהרשת החברתית.
2 צפייה בגלריה
אפליקציית פייסבוק
אפליקציית פייסבוק
אפליקציית פייסבוק
(צילום: שאטרסטוק )
העובדה שפייסבוק חסמה פעמיים את הבוט של נתניהו ערב מערכות בחירות, או שבנו יאיר נוהג להשתלח בקביעות ברשת החברתית לא ממש מבלבלת את הוגי הקונספירציות האלו.
אז כן, לכולם יש סיבה לחשוב שפייסבוק מתנכלת להם, אף שרוב התקריות הן תוצאה של חוסר הבנה מצד המתלונן, אירוע שנגרם באשמתו או טעות שלומיאלית של פייסבוק. אבל יש קבוצות שבאמת סובלות מיחס לא הוגן מצד פייסבוק ורשתות חברתיות אחרות. לא בהכרח כי הפלטפורמות מתנכלות להן במכוון, אלא כתוצאה מכשלים באלגוריתם הבינה המלאכותית שאמון על סינון התכנים.
בימים האחרונים התמקדה תשומת הלב בקבוצה נוספת שסובלת מכשלים אלו: פעילים פרו-פלסטינים שכתבו על מבצע שומר חומות והפעילות של ישראל במזרח ירושלים. לפי דיווח של הוושינגטון פוסט, במהלך המבצע פייסבוק וטוויטר חסמו או הגבילו בטעות מיליוני פוסטים וחשבונות פרו-פלסטיניים.
כך, למשל, בימים הראשונים של המחאות במזרח ירושלים, פייסבוק, אינסטגרם וטוויטר הסירו פוסטים שעשו שימוש בתגית #SaveSheikhJarrah. עיתונאית אל-ג'זירה בגדה המערבית, מרים ברגותי, דיווחה שטוויטר הגבילה את החשבון שלה, בטענה שהפרה את מדיניות הרשת החברתית בעת שסיקרה הפגנה. לדבריה, היא לא יודעת איזה ציוץ הפר איזה כלל. החברה השיבה את החשבון לפעילות מלאה והצהירה שנחסם בשוגג.
אפשר היה ליחס זאת לעוד מקרה שכולם מרגישים שפייסבוק נגדם, אלא שהפעם החברות נתנו תוקף לתחושות הנחסמים ולא הכחישו את הדברים. לדברי טוויטר, המערכות שלה זיהו בטעות ציוצים תכופים בשיא העימותים כספאם ונעלו זמנית את החשבונות. אינסטגרם של פייסבוק סיפקה מגוון הסברים, כולל טענה שלפיה באג תוכנה חסם זמנית את האפשרות לשתף וידיאו ושתוכנה לזיהוי ביטויי שטנה שגתה בזיהוי האשטג כקשור לארגון טרור. לדברי החברות, הבעיות נפתרו במהירות והחשבונות הושבו לפעולה. ואולם, בארגון 7amleh, שפועל לקידום זכויות דיגיטליות של פלסטינים אמרו לוושינגטון פוסט ש-170 פוסטים באינסטגרם וחמישה בטוויטר טרם הושבו.
2 צפייה בגלריה
איתמר בן גביר עורך דין
איתמר בן גביר עורך דין
איתמר בן גביר. חשבון הווטסאפ של אשתו נחסם
(צילום: יואב דודקביץ)
התקריות מהשבועות האחרונים מצטרפות לתקריות נוספות שהולכות אחורה שנים. ב-2016 חסמה פייסבוק חשבונות של כמה עיתונאים בשני ארגוני חדשות פלסטיניים, ואחרי תלונות החזירה אותם לאוויר וטענה שנחסמו בטעות. ב-2019, פייסבוק חסמה את החשבון של Quds News Network כחלק ממהלך גורף לחסימת חשבונות של תומכי טרור, והחזירה אותו בעקבות תלונות. ורק בשנה שעברה חסמה פייסבוק חשבונות של יותר מ-50 עיתונאים פלסטינים, מבלי לספק שום הסבר.
הבעיה, אמרו מוממחים לוושינגטון פוסט, היא שהמערכות, משוכללות ומתוחכמות ככל שיהיו, עדיין מתקשות להבין דברים בהקשר שלהם. הן יכולות לזהות מילה בעייתית, אך לא מבינות האם היא נאמרה כמילת גנאי, מוצגת בהקשר ביקורתי או פשוט ללא שום מטען חיובי או שלילי. דוגמה קלאסית היא הפעם שבה פייסבוק חסמה פוסט של גורי אלפי, שכלל אזכור של הצלם גיא כושי. המערכת של פייסבוק זיהתה יפה מאוד את "כושי" כמילה בעייתית, אך לא הבינה שההקשר שבו היא מופיעה הוא תקין לחלוטין.
בקרב הפלסטינים, מסתבר, המקבילה לכך היא קסאם. איאד אל רפאיה, מנהל ארגון Sada Social, סיפר לוושינגטון פוסט על מקרה שבו פייסבוק הורידה פוסט שבו אב מאחל יום הולדת שמח לבנו קאסם, כנראה מכיוון שהרשת החברתית פוסלת פוסטים שמזכירים את גדודי עז א-דין אל-קסאם. "המלים האלו הן חלק מהשיח שלנו. פייסבוק לא מבדלת בין הקשרים", הוא אמר.
בפייסבוק מבינים את חומרת הבעיה, מספיק על מנת לשלוח את הלוביסט הראשי של החברה, ניק קלג, לסבב של שיחות הסבר והרגעה עם גורמים ישראלים ופלסטיניים. לכך מצטרפים קולות בתוך פייסבוק שקוראים לחברה לנקוט בפעולה משמעותית יותר. לפי דיווח של הפייננשל טיימס, קרוב ל-200 מעובדי החברה חתמו על מכתב פתוח שקורא להנהלה להתמודד עם החשש שקולות פרו-פלסטיניים מושתקים ברשת החברתית.
העובדים מבקשים מפייסבוק לערוך ביקורת על ידי גוף חיצוני, שיבחן את האכיפה שלה נגד תוכן ערבי ומוסלמי, ולכוח משימה פנימי שיחקור ויטפל בהטיות פוטנציאליות של האלגוריתם ומנטרי התוכן האנושיים. "המשתמשים והקהילה שלנו מרגישים שאנחנו לא מקיימים את הבטחתנו להגן על חופש הביטוי סביב המצב בפלסטין", נכתב. "אנחנו מאמינים שפייסבוק יכולה וצריכה לעשות יותר כדי להבין את המשתמשים שלנ ולזכות מחדש באמונם".
פייסבוק כבר נקטה בצעדים על מנת להתמודד עם האשמות אלו, והודיעה שאינסטגרם משנה את האלגוריתם שלה על מנת להציג יותר פוסטים ויראליים ועדכניים, בתגובה לטענות שתוכן פרו-פלסטיני לא זכה למספיק חשיפה בעת מבצע שומר חומות.
לא מדובר בבעיה שייחודית לפלסטינים ותומכיהם. לדברי מומחים, התקריות האלו הן חלק מבעיה רחבה יותר שבה מערכות בינה מלאכותית פוגעות שלא בצד בקבוצות מוחלשות שתלויות ברשתות חברתיות להתארגנות ותמיכה. פעילים אפרו-אמריקנים, לדוגמה, טוענים במשך שנים שפרסומים שדנים בגזע מסומנים כבעיתיים שלא בצדק.
במקרה בעייתי אחד, פייסבוק חסמה פוסט שבו אם שחורה סיפרה על תקרית שבה אדם לבן פנה לשני הילדים הקטנים שלה, בני 8 ו-12, ואמר להם: "What the fuck is up with those fucking nigger heads?". וכמקובל בפייסבוק, לנפגעים אין ממש למי לפנות ולהתלונן.
וגם בעיה רחבה זו היא חלק מבעיה רחבה יותר, של הטיה לרעת מיעוטים, נשים וקבוצות מוחלשות אחרות כאשר מדובר על פעילות מערכות בינה מלאכותית – החל ממערכות זיהוי פנים שכושלות בזיהוי שחורים (ואף שלחו אנשים חפים מפשע לכלא בגלל טעות בזיהוי), ועד אלגוריתם שמסייע לשופטים בארה"ב להחליט מי אפשר לשחרר בערבות ונוטה להציג שיעורי מסוכנות גבוהים יותר לשחורים. ההבדל הוא שכאן אנשים מרגישים את זה על בשרם, בחיי היומיום שלהם, מה שהופך את הבעיה למוחשית הרבה יותר.
ויכול להיות כמובן שאין כאן שום בעיה. שפייסבוק לא חוסמת פוסטים פרו-פלסטינים בצורה לא הוגנת יותר משהיא חוסמת פוסטים פרו-ישראלים. משדובר בעוד מקרה שקבוצה מרגישה שפייסבוק מתעללת בה באופן מיוחד, בשעה שהרשת החברתית מתעללת בכולם בצורה שווה. הסיבה שאנחנו לא יכולים לומר בוודאות האם זה כך או אחרת היא האופן שבו מתנהלת פייסבוק: חוסר שקיפות קיצוני, גם ברמה הפרטנית וגם ברמה הכללית. הרשת החברתית לא מסבירה למשתשמים בגין איזה פוסט הם נענשים או מה העבירה הספציפית שעברו, ולא משחררת לציבור נתונים רוחביים על מדיניות האכיפה שלה. למשל, כמה פוסטים צונזרו כי הכילו מילה מסוימת.
וזו בעיה חמורה. העובדה שאנחנו לא יודעים ולא יכולים לדעת מה פייסבוק עושה, על סמך מה היא מקבלת החלטות, שפלטפורמת התקשורת הגדולה ביותר בהיסטוריה מתנהלת כמעין קופסה שחורה שאין איש יודע מה קורה בתוכה ולמה, היא בעייתית ומסוכנת. אפילו אם החברה לא באמת מפלה משתמשים פרו-פלסטינים.

לכתבה זו פורסמו 0 תגובות ב 0 דיונים
הוספת תגובה חדשה
אין לשלוח תגובות הכוללות מידע המפר אתתנאי השימוש של כלכליסט לרבות דברי הסתה, דיבה וסגנון החורג מהטעם הטוב.