שימו לב, אתר זה עושה שימוש בעוגיות על מנת להבטיח לך את חוויית הגלישה הטובה ביותר. קראו עוד הבנתי
דו"ח טכנולוגי

דו"ח טכנולוגי

למה ענקיות הטכנולוגיה לא נלחמות כראוי בהפצת פדופיליה?

אפל, פייסבוק, אמזון ומיקרוסופט וגוגל לא מנצלות את הכלים שבידיהן למניעת הפצת תוכני ניצול קטינים בשירותים המקוונים שלהן; נוזקת NSO חשודה בתקיפת משתמשים בהודו; ויוזמת הסייבר של אלפבית כושלת באופן מפתיע

עומר כביר 23:0310.11.19

הטראומה של שורדות התעללות מינית, תקיפה מינית ואונס היא לא אירוע נקודתי, אלא סיוט מתמשך, הפכפך ורב-פנים, כזה שמוצא דרכים להכאיב ולפגוע לאורך שנים, עשורים, חיים שלמים. זה מתחיל בתקיפה או באונס עצמם, שפעמים רבות אינם אירוע חד פעמי, ממשיך ברגשות הבושה והאשם שמתעוררים לאחריהם, ושביחד עם תחושת אימה תמידית יכולים ללוות את השורדות לכל חייהן.

 

במידה שהשורדת פונה לרשויות החוק, יש טראומה חוזרת ונשנת של שחזור האירוע או האירועים והתעמתות עם האשמות מצד חוקרים, פרקליטים והמערכת לכל אורך שנות החקירה והמשפט, לא פעם ללא הסיפוק הקל של שליחת הפושע למאסר. זו אירוע מתמשך, טראומה שלעולם לא מסתיימת. בעשור האחרון, עם התפתחות הרשתות החברתיות ושירותי הענן, נוסף לטראומה הזו אלמנט מטריד, שמלווה את השורדות כל חייהן, ושאין להן שום דרך לברוח ממנו: התיעוד של התקיפה או האונס שעברו מועלה לרשת על ידי התוקף, ונשאר שם לנצח - רודף את השורדות בכל מקום שאליו יפנו.

 

 

 

היקף הבעיה מזוהה רק לאחרונה, לאור מאמצים של תעשיית הטכנולוגיה לזהות ולהסיר משירותים ופלטפורמות תמונות וסרטונים שמתעדים התעללות מינית בילדים, כאשר לפי הניו יורק טיימס בשנה שעברה הוסר מספר שיא של 45 מיליון תמונות וסרטונים. מספר זה כנראה שלא מקיף את כל הבעיה. סביר שיש ברשת עוד עשרות מיליונים או אפילו מיליוני תכנים התעללות פדופיליים שלא זוהו, וזה עוד לפני שדיברנו על תיעוד של אונס, תקיפה או התעללות מינית בבגירות – תוכן שהרבה יותר מורכב לזהות ככזה ולהוריד מהרשת, אך שפגיעתו בשורדות ובחייהן חמורה באותה המידע.

 

זאת, מכיוון שתוכן בעל אופי מיני של ילדים הוא לא חוקי, ללא שום סייג. ברגע שמזוהה תמונה או סרטון מיני של קטינים ברור שהם פסולים. במקרה של בגירות, המצב המורכב יותר. כמעט בלתי אפשרי לדעת האם תמונת עירום סטנדרטית של בגירה צולמה ושותפה בהסכמה מלאה, למשל, והנכונות של פלטפורמות מסוימות להלחם בתופעות כמו פורנו קנה מוגבלת יותר.

 

תחקיר של הניו יורק טיימס גילה שגם בכל הנוגע להסרה של תוכן מיני של קטינים, התמונות והסרטונים שאין שום ספק לגבי אי-החוקיות שלהם, כשלה התעשייה בנקיטת הצעדים הדרושים. לפי חקירת העיתון, הגישה של ענקיות הטכנולוגיה היתה לא-עקבית, חד-צדדית ברובה וסודית. וכתוצאה, הפדופילים שמאחורי תקיפת ואונס הילדים, תיעודם והפצת התכנים יוצאים לא פעם כשידם על העליונה.

 

איך נאבקים בפדופילים ברשת? איך נאבקים בפדופילים ברשת? צילום: שאטרסטוק

 

 

עם התוצאות של כשלים אלו נאלצות לחיות הקרבנות עצמן. כמו שתי אחיות מארה"ב, שחיות בפחד שמישהו יזהה אותן. לפני עשור, כשהיו בנות 7 ו-11, אביהן העלה לרשת תיעוד מחריד התעללות מינית שעברו, כולל סרטון שלו ושל גבר אחר מסממים ואונסים את האחות הצעירה. שני הגברים עדיין בחיים, למרבה הצער, אך יושבים במאסר. ובעבור האחיות, מעבר לטראומה של עצם התקיפה שעברו, נוספה הטראומה של התיעוד המזוויע שעדיין רודף אחריהן: רק השנה נמצאו התמונות והסרטונים של השתיים ביותר מ-130 חקירות התעללות בילדים, על סמאטרפונים, מחשבים ושירותי ענן.

 

השתיים מתאמצות לשנות את ההופעה החיצונית שלהן: אחת גידלה פוני ומסתובבת עם קפוצ'ון, השנייה צבעה את שיערה לשחור. אבל הן חיות בפחד תמידי שאחד הפדופילים יזהה אותן וינסה למצוא אותן (פעמים רבות פדופילים ופושעי מין מנסים לאתר ילדים שעברו התעללות מינית גם בבגרותם). "זה בראש שלי כל הזמן – הידיעה שהתמונות שם בחוץ", אמר לניו יורק טיימס האחות הגדולה, שזוהתה רק בתור E. "בגלל איך שהאינטרנט עובד, זה לא משהו שייעלם. לקחו לי את הקול. בגלל התמונות האלו, אני לא יכולה לדבר כעצמי, אני כמו ג'יין דו".

 

לחברות השונות יש את הכלים הטכניים שדרושים לעצירת הפצת התכנים, ויכולת לזהות תמונות מול מאגר חומרים, אך הן לא מנצלות כלים אלו במלוא עצמתם. אמזון בכלל לא סורקת מיליוני התמונות והסרטונים שמועלים ומורדים משירותי הענן שלה מדי שנייה, ואפל לא סורקת את שירות אחסון הענן שלה. דרופבוקס, גוגל ומיקרוסופט כן סורקות את שירותי הענן שלהן בחיפוש אחת תמונות וסרטונים לא-חוקיים, אבל רק כאשר אלו משותפים, לא כשהם מועלים. חברות כמו סנאפצ'ט או יאהו סורקות רק תמונות, לא סרטונים, למרות שהתפוצה של אלו נמצאת בצמיחה.

 

 

לא סורקת וידאו. סנאפצ'ט לא סורקת וידאו. סנאפצ'ט

 

 

ואז, כמובן, יש את הבעיה המורכבת שירותים מוצפנים כמו ווטסאפ שלא מאפשרים לחברות עצמן לסרוק את התכנים. כשמארק צוקרברג העיד בחודש שעבר בפני הקונגרס, אחד המחוקקים תקף אותו לגבי כמות התוכן הפדופילי בפייסבוק, על סמך דיווחים שלפיהם 90% מהדיווחים על תוכן זה בשנה שעברה הגיעו מהרשת החברתית עצמה. למרבה האירוניה, כאן זו דווקא נקודה לזכותה של החברה: פייסבוק סורקת את הפלטפורמות שלה בייסודיות רבה מהחברות האחרות, ולכן מזהה יותר תכנים פדופיליים מהן (לכך יש להוסיף את העובדה שהיקף השיתוף שם גדול משמעותית מפלטפורמות אחרות). עם זאת, גם פייסבוק לא עושה שימוש בכל מאגרי המידע הזמינים כדי לאתר תכנים אלו, והחלטתה להצפין את פייסבוק מסנג'ר – המקור העיקרי שלה לאיתורם – צפויה לפגוע משמעותית ביכולות האיתור שלה.

 

גם בצד הטכני היכולות מוגבלות. השיטה המרכזית לזיהוי תמונות לא-חוקיות, היא שירות PhotoDNA שפותח ב-2009 בסיוע מיקרוסופט ומופעל על ידה. פעילותו מבוססת על ניתוח ואפיון התוכן באופן שמאפשר לזהות גם תמונות שעבור שינוי כלשהו, ויוצר חתימה מתמטית לכל תמונה שאותה אפשר להשוות למאגר של תמונות לא חוקיות. כמעט כל התמונות שזוהו בשנה שעברה אותרו באמצעות המערכת.

 

עם זאת, השיטה מוגבלת בסופו של דבר באיכות המאגר עצמו. אין רשימה אחת מוסמכת של כל התכנים הפדופיליים שזוהו, ותמונות רבות מופיעות במאגר אחד אך לא באחר - ולא פעם מצליחות באופן זה להסתנן מבעד לחרכים. בנוסף, אין לשיטה זו שום דרך להתמודד עם הכמות העצומה של תמונות וסרטונים חדשים שמציפים את הרשת, או עם שידורים חיים מקוונים של התעללות ואונס ילדים.

 

וכמובן, שחברות צריכות ליישם אותם בכל השירותים שלהן. הניו יורק טיימס יצר תוכנת מחשב שסרקה מנועי חיפוש בחיפוש אחר תכנים פדופיליים. בבדיקה, שכללה את בינג של מיקרוסופט בינואר דיווח שבינג משמש פלטפורמה לאיתור תכנים פדופיליים) DuckDuckGo ויאהו (שמסתמכים על מיקרוסופט לסינון תוכן לא-חוקי), אותרו 75 תמונות שזוהו על ידי PhotoDNA כתכני פדופיליה.

 

בינג של מיקרוסופט בינג של מיקרוסופט צילום מסך: bing

 

 

סריקה דומה בגוגל לא אתרה שום תכנים פדופיליים, אם כי תיעוד של של המרכז הקנדי להגנת הילד הראה שבעבר נמצאו תכנים שכאלו בגוגל, ושהחברה גילתה לפעמים התנגדות לא ברורה להסרתם. במקרה אחד, למשל, פנה המרכז לגוגל בבקשה להסיר תמונות של שני ילדים בני פחות מ-12 מבצעים מעשים מיניים זה בזה. גוגל סירבה, בטענה שהתמונה לא עומדת בסף הדרוש להסרה. אחרי תשעה חודשים של לחצים שינתה החברה את דעתה.

 

הבעיה לא מוגבלת רק למנועי חיפוש. פדופילים מתקשרים זה עם זה בפורומים וקבוצות צ'ט, ומפתחים שיטות לנצל פרצות במערכת אותן הן מפיצים במדריכים מקוונים ומפורטים. הם משתפים תמונות באתרים מפוקפקים, אבל לא חוששים לתקשר גם בפלטפורמות גדולות כמו מסנג'ר של פייסבוק או לאחסן תמונות בדרופבוקס. פעמים רבות יעדיפו חלאות האדם שירותים קטנים יותר, אולי מתוך הנחה שיכולת ההתמודדות שלהם תהיה מוגבלת, כמו שירות המסרים המידיים הגוסס Kik, הרשת החברתית Yik Yak, שכבר אינה פעילה, ושירותי הלייב סטרימינג Omegle.

 

וכשמדובר בווידאו המצב מורכב יותר, שכן שם אין תקן מקובל דוגמת PhotoDNA לזיהוי תוכן לא חוקי, ופלטפורמות רבות ובראשון סנאפצ'ט, יאהו ו-AOL אפילו לא סורקות חומרי וידאו. וכשמדובר בשירותי וידאו צ'ט או לייב סטרימינג, הקושי לאתר את התכנים בזמן אמת הוא עצום. במשפט של פדופיל בארה"ב ששידר סרטוני מחרידים של התעללות ואונס קטינים ותינוקות, באמצעות מערכת שיחות הוועידה העסקית Zoom, כינה אותה התובעה "הנטפליקס של פורנוגרפיית ילדים".

 

"חברות הטכנולוגיה עושות את המינימום הדרוש כדי לשמר את הכבוד הציבורי לארגון שלהן", אמר לניו יורק טיימס צ'אד סטיל, מרצה לזיהוי פלילי ממוחשב באוניברסיטת ג'ורג' מייסון. "אבל הן לא עושות את כל מה שהן יכולות לעשות על סמך הטכנולוגיה הקיימת".

 

בעולם של סריקת תוכן יש הרבה שיקולים שצריך לאזן, ופרטיות וביטחון של משתמשים שומרי חוק הם לא משהו שצריך לפטור כלאחר יד, גם כשמדובר בצורך לעצור הפצה של תכני פדופיליה. אבל השאלה היא לא האם אפשר לאזן אותם, אלא כמה יקר ומורכב יהיה לפתח פתרונות שיאזנו אותם.

 

 

איך לאזן בין מלחמה בתוכן זוועה ובין פרטיות? איך לאזן בין מלחמה בתוכן זוועה ובין פרטיות? צילום: שאטרסטוק

 

 

 

כמה פתרונות אפשריים הוצעו כבר, למשל סריקת תמונות על המכשיר עצמו, לפני ההצפנה, ליצירת החתימה הייחודית של PhotoDNA שנשלחת להשוואה עם העלאת התמונה. יש כאן פגיעה בפרטיות, אין ספק - אך זו מוגבלת יחסית וייתכן שמדובר בוויתור הולם.

 

זה דיון שחשוב וצריך לנהל, אבל קודם לכן יש חובה על חברות הטכנולוגיה לפתח את הכלים ואת השיטות שיאפשרו לנהל את הדיון הזה. האם אנחנו מוכנים להקריב את הפרטיות שלנו כדי לעצור הפצה של תוכן פדופילי, ועד כמה אנחנו מוכנים להקריב אותה הן שאלות שלא נוכל להשיב עליהן כראוי בלי הפרטים הדרושים לגבי מידת ההקרבה ואופן הזיהוי של התוכן. במקביל, החברות חייבות לפתח כלים טובים יותר להתמודדות עם וידאו ועם לייב סטרימינג. סביר מאוד שפתרון הוא אפשרי, סביר לא פחות שהוא יהיה מורכב ויקר לפיתוח. הכל עניין של משאבים ורצון.

 

 

 

לחברות כמו אפל, גוגל, מיקרוסופט ואמזון יש תקציבי מו"פ של מיליארדי דולרים. כמה מהם הולכים לפיתוחים שמטרתם להעשיר את קופת המזומנים של החברות וכמה לפיתוחים שנועדו להילחם בהפצה של תכני פדופילה? זו החלטה שלהן בלבד. אבל זו החלטה שיכולה להיות מושפעת מגורמים כמו דעת הקהל, התקשורת, חקיקה, רגולציה וענישה. וגורמים אלו הצליחו להביא לשינוי ביחס החברות לתחום הפרטיות מאז פרשת קיימברידג' אנליטיקה של לפני פחות משנתיים.

 

אם החברות יועלו על המוקד יום אחר יום בגין חוסר הפעולה המספק שלהן בתחום, אם יתחילו לזרום עונשים וקנסות, הרבה קשיים בפיתוח והרבה היסוסים יעלמו, ויוחלפו על ידי פתרונות יצירתיים ומוצלחים. או לפחות התחלה שלהם, משהו שיאפשר לקיים דיון אמיתי על האיזון הנכון בין פרטיות משתמשים לחסימת פדופיליה.

 

קצרצרים

 

1. פייסבוק שוב נאלצת להתנצל. הסיבה הפעם: פוסט אנונימי של עובדי החברה בעבר ובהווה, לפיו שלחברה יש תרבות קבועה של גזענות ואפליה. לא משהו גדול ומובהק, אלא תוצאה של אירועים קטנים, כמו מנהל בן מיעוטים שהתבקש על ידי שני עובדים לבנים לנקות את הבלגן שלהם, או אי נכונות של מחלקת כוח האדם להתמודד עם תקריות מסוג זה. "מדובר בפעולות קטנות שלאורך זמן מצטבאות ליצירת תרבות שבה אנחנו לא נשמעים, לא מוכרים ולא מקובלים", נכתב. פייסבוק הגיבה: "אף אחד לא צריך להתמודד עם התנהגות כזו. אנחנו מצטערים. זה נגד מה שאנחנו מאמינים בו כחברה".

 

 

 

מארק צוקרברג, מנכ"ל פייסבוק מארק צוקרברג, מנכ"ל פייסבוק תמונה: CNN

 

 

2. עוד יום מביא אותו עוד גילויים על NSO, בעקבות התביעה של פייסבוק נגדה בגין פריצה לווטסאפ. והיום בהודו: לפי דיווח של הניו יורק טיימס, 121 משתמשים בהודו היו על הכוונת של פגסוס, הנוזקה של החברה. 22 מהם אקטיביסטים, עיתונאים או פרקליטים בתחום זכויות האזרח. NSO, בתגובה, מסרה את ההצהרה הרגילה שלפיה הטכנולוגיה שלה משמשת למלחמה בפשע ובטרור, ולא מיועדת לריגול אחרי פעילי זכויות אדם ועיתונאים. משכנע.

 

3. Chronicle היה אמור להיות השוס הגדול ביותר של אלפבית בתחום הסייבר. "גוגל תמונות לאבטחת רשת לעסקים", כינה את המיזם פורבס במרץ השנה - מעין סטארט-אפ פנימי שיפתח פתרונות חדשניים לתחום המבוקש. החזון הזה לא ממש התרומם, ושורה של כשלים ניהוליים שמתועדים במגזין Motherborad מביאים בימים אלו לקריסת המיזם. אאוץ'.
בטל שלח
    לכל התגובות
    x