המערכת לזיהוי פדופילים לא יצאה לדרך, ואפל תשלם
המערכת לזיהוי פדופילים לא יצאה לדרך, ואפל תשלם
לפני שלוש שנים אפל חשפה מערכת לזיהוי וחסימת תכנים של פדופיליה אך לא השיקה אותה מעולם. כעת היא עומדת בפני תביעה ייצוגית שיכולה להגיע ל־1.2 מיליארד דולר: שורדת התעללות מינית מילדותה טוענת שהחברה כשלה ואפשרה הפצת תמונות שלה ושל עוד 2,680 קורבנות אפשריים
באוגוסט 2021 חשפה אפל מערכת לזיהוי וחסימת תמונות וסרטונים שכוללים תוכן של התעללות מינית בילדים. המערכת יועדה לשילוב בכל הפלטפורמות והמכשירים של החברה, והיתה אמורה לזהות תכני פדופיליה חזותיים, למנוע את הפצתם ולדווח על משתמשים שמעלים אותם לשירותי הענן של החברה. פחות מחודש לאחר מכן, על רקע ביקורת חריפה, השעתה אפל את השקת המערכת. רשמית ל"מקצה שיפורים", אך בפועל לא השיקה אותה מעולם. עתה, עלולה החברה לשלם ביוקר על ההחלטה הזו, לאחר שקורבנות התעללות בילדים הגישו נגדה תביעה ייצוגית בסך 1.2 מיליארד דולר.
התובעת הראשית בתביעה, שהוגשה בשבת האחרונה לבית משפט פדרלי מחוזי בקליפורניה, היא תובעת אנונימית בת 27. לפי דיווח של הניו יורק טיימס, התובעת היא שורדת התעללות מינית אותה חוותה מאז היתה פעוטה. קרוב משפחה של התובעת התעלל בה מינית, צילם את המעשים, החליף את התמונות עם אחרים והתיר גם לאנשים נוספים לפגוע בה.
התובעת זוכה לתזכורת יומיומית כמעט של הטראומה שחוותה, באמצעות הודעות שהיא מקבלת מרשויות אכיפת חוק על כך שמישהו הואשם באחזקת התמונות שלה. בסיס התביעה נמצא באחת ההודעות האלו, שהתקבלה בסוף 2021 ובישרה שהתמונות אותרו במקבוק של תושב ורמונט, שגם אחסן אותן בחשבון ה־iCloud שלו. אפל, נטען בתביעה, כשלה להגן על התובעת ועל קורבנות אחרים ובמקום להשתמש בכלי שיצרה על מנת לזהות, להסיר ולדווח על תמונות ההתעללות בהם - אפשרה את המשך הפצתן, ובכך כפתה על הקורבנות לחוות מחדש את טראומת ההתעללות המינית.
לדברי פרקליטה של התובעת הראשית, עו"ד ג'יימס מארש, התביעה מייצגת עוד 2,680 קורבנות אפשריים, שכל אחד מהם זכאי לפיצוי נזיקין בסך 150 אלף דולר לפחות, בהתאם לקבוע בחוק פדרלי. הסכום הכולל של הפיצויים יכול להגיע ל־1.2 מיליארד דולר, שכן במשפטים מסוג זה נוהגים מושבעים לשלש את סכום הפיצוים המבוקש. "אפל מכרה מוצרים פגומים שפגעו בקורבנות התעללות מינית בילדים, מכיוון שהציגה וקידמה תכונה שנועדה להגן על ילדים, אבל אז כשלה ליישם את התכונה או לנקוט בצעדים אחרים לזיהוי והגבלת הפצת חומר התעללות מינית בילדים", נטען בתביעה.
התביעה מעצימה את המתח שחברות כמו אפל מצויות בו. מצד אחד, מפעילות פלטפורמה ויצרניות מכשירים מבקשות לספק ללקוחותיהן סביבות ששומרות על פרטיותם ומגינות על המידע האישי שלהם מפני דליפה לגורמים לא מורשים או הגעה לידי רשויות מדינה. אפל נחשבת למובילה בתחום זה, והיתה ענקית הטכנולוגיה הראשונה לספק יכולות כמו הצפנה מלאה של מכשירים, ותכונות שמקשות על הפעלת כלי ריגול ושאיבת מידע.
ואולם, הגנות פרטיות מוגברות אלו נותנות לגורמים נאלחים חופש פעולה רחב יותר בבואם לייצר ולהפיץ חומרים אסורים. מסורתית, אפל מדווחת על פחות חומרי התעללות מינית במוצרים שלה מעמיתותיה. ב־2023, חברות טכנולוגיה העבירו למרכז הלאומי לילדים נעדרים ומנוצלים (מלכ”ר אמריקאי שמנהל מאגר של חתימות תמונות וסרטוני פדופיליה – לא התמונות עצמן – שחברות טכנולוגיה משתמשות בו בין היתר על מנת לזהות תמונות כאלו בפלטפורמות שלהן) 36 מיליון דיווחים על תמונות וסרטוני פדופיליה שזיהו בפלטפורמות שלהם. מטא מסרה 17.84 מיליון דיווחים על תכנים כאלו בפייסבוק ו־11.43 מיליון דיווחים באינסטגרם. גוגל העבירה 1.47 מיליון דיווחים. אפל? 267 דיווחים בלבד. כל דיווח יכול אמנם לכלול מספר תמונות וסרטונים, אך נראה שהיקף התכנים שעליהם מדווחת החברה נמצא הרחק מאחור לעומת ענקיות אחרות.
אפל טוענת להגנתה שמדובר בתוצאה של מאמציה להגן על פרטיות המשתמשים, אך גופים להגנה על ילדים טענו שהיא יכולה לעשות יותר על מנת למנוע הפצת חומרי פדופיליה. המערכת שחשפה אפל ב־2021 נועדה להתמודד עם ביקורת זו. ואולם, היא עוררה ביקורת אחרת מצד מומחי פרטיות והגנת מידע. אלו הזהירו, בין השאר, מיכולת של משטרים דכאניים לתמרן את המערכת כך שתגרום להפללה של מתנגדי משטר בהחזקת תוכן פדופילי, ומזליגת שימושים בדרישת מדינות שונות. למשל, שליטה של סין במאגר חתימות של תמונות פדופיליה שיכולה לשמש אותה על מנת לצרף למאגר זה תמונות מתנגדי משטר.
מאגרי תמונות פדופיליה לא מחזיקים בתמונות עצמן אלא בחתימות של התמונות – מידע שמהווה מעין טביעת אצבע ייחודית של תמונה ולא כולל את תוכן התמונה עצמה. החשש הוא שסין, אם תפעיל מאגר כזה, תכניס אליו חתימות של תמונות של מתנגדי משטר, וכך תוכל להשתמש בו כדי לעקוב אחריהם.
הביקורת הרחבה הרתיעה את אפל, שהעדיפה לשמר את הסטטוס־קוו ולא להשיק את המערכת. "זה כמעט בלתי אפשרי לסרוק תמונות ב־iCloud מבלי לסכן את פרטיות המשתמשים שלנו", הסבירה החברה. למרבה האירוניה, ייתכן שאפל היתה במצב משפטי טוב יותר לולא הציגה כלל את המערכת, שכן אחת מטענות התביעה היא שלחברה היתה את הטכנולוגיה למנוע את המשך הפגיעה בהם, אך בחרה שלא להשתמש בה.
סביר להניח שאפל תבקש מבית מבית המשפט לדחות את התביעה, בטענה שסעיף 230 לחוק התקשורת הפדרלי מ־1996 מסיר ממנה אחריות לגבי חומרים שהעלו משתמשים לחשבונות ה־iCloud שלהם. סעיף זה, שנחשב ליסוד שעליו בנויה הרשת המודרנית, מסיר ממפעילות פלטפורמות מקוונות אחריות משפטית לתכנים שמשתמשים מעלים. הוא זה שמבטיח, למשל, שבמקרה שמשתמש מעלה תוכן דיבתי לפייסבוק, לא ניתן יהיה לתבוע את מטא אלא רק את המשתמש עצמו. ואולם, לא בטוח שדרישה שכזו של אפל תזכה לאוזן קשבת מבית המשפט. זאת, לאור פסיקות מהתקופה האחרונה של בית משפט פדרלי לערעורים, שמצא שסעיף 230 חל רק על מקרים של ניטור תוכן ולא מספק לחברות הגנה גורפת.
מאפל נמסר בתגובה לניו יורק טיימס: "חומרי התעללות מינית בילדים הם מתועבים, ואנחנו מחויבים להילחם בדרכים שבהם מתעללים מסכנים ילדים. אנחנו מחדשים בדחיפות כדי להילחם בפשעים אלו מבלי להתפשר על הביטחון והפרטיות של כל משתמשינו".
כל חברות הטכנולוגיה מתמודדות על הציר בין סביבה בטוחה לצורך לשמור על פרטיות. מצד אחד, המשתמשים מבקשים הגנות טובות יותר על המידע שלהם ויכולות שימנעו את זליגתו לגורמים עוינים או יגנו עליו מפני חיטוט ממשלתי. מצד שני, על רקע העלייה בשימוש בשירותי הצפנה, מדינות מבקשות כלים טובים יותר שיעזרו להן להתמודד עם פדופיליה, טרור ופשיעה חמורה. בתווך נמצאות החברות, שמבקשות לרצות את המשתמשים אך גם חוששות מצעדים ממשלתיים או מכך שיואשמו בתמיכה בפדופיליה ובטרור.
המקרה הנוכחי מדגים היטב איך המתח הזה יכול ליצור בעבור חברות תרחיש שבו אין להן תוצאה מנצחת. אם אפל היתה מפעילה את המערכת שלה, היא היתה נתונה לביקורת מצד משתמשים וגופי הגנת פרטיות, שגם היתה עלולה לפגוע במכירות שלה. מכיוון שלא הפעילה אותה, היא מתמודדת עם תביעה שיכולה לעלות לה ביוקר.
