שימו לב, אתר זה עושה שימוש בעוגיות על מנת להבטיח לך את חוויית הגלישה הטובה ביותר. קראו עוד הבנתי
חדשות טכנולוגיה

משבר הקורונה

כך עובדת מערכת המעקב של נפתלי בנט ו-NSO

המכון הישראלי לדמוקרטיה פרסם לפני החג מכתב חריף למקבלי ההחלטות בממשלה בנוגע לבעייתיות המעקב אחר חולי קורונה בישראל, ובמקביל אף חשף בפנינו את אופן הפעילות של המערכת והסכנות האפשריות מהשימוש בה

עומר כביר 12:5216.04.20
עד עתה, פרט למידע ששר הביטחון בממשלת המעבר, נפתלי בנט, הפיץ בעצמו, היה קיים מידע מוגבל ביותר על מערכת הבינה המלאכותית של NSO לניטור התפשטות הקורונה. אבל חוות דעת שחיברו ד"ר תהילה שוורץ אלטשולר ועו"ד רחל ארידור הרשקוביץ מהמכון הישראלי לדמוקרטיה, ושנשלחה לפני החג לכנסת, לממשלה, למשרד היועץ המשפטי ולמשרד הבריאות, חושפת מידע חדש על אופן פעילות המערכת והסכנות האפשריות שלה.

לפי המסמך, המערכת אוספת מיקומים של האזרחים ושומרת אותם באופן שאינו חשוף לנו (אך שככל הנראה לא נאסף על ידי NSO עצמה). "‏אימון‏ המערכת ‏נעשה ‏על ‏בסיס מידע-מיקום ‏פרסומי‏, ‏כלומר‏ ‏מידע ‏שנלקח ‏מברוקרים‏ הסוחרים ‏במידע‏, שנאסף‏ באמצעות ‏אפליקציות ‏סלולריות ‏שלהן ‏מאפשרים ‏המשתמשים ‏לאסוף ‏את נתוני‏ המיקום", נכתב. "‏כמובן ששימוש ‏כזה ‏חורג ‏מעיקרון ‏צמידות ‏המטרה ‏ומהסכמתם ‏החופשית ‏של ‏המשתמשים, ‏שלא ‏ניתנה ‏למטרות‏ מעקב‏ על‏ ידי ‏מערכות ‏ביטחון".

שר הביטחון נפתלי בנט שר הביטחון נפתלי בנט צילום: מיכל פתאל

 

‏הנתונים ‏עצמם מוצגים באופן ‏אינטואיטיבי ‏באמצעות ‏מפות ‏חום. ‏"הדבר ‏מאפשר ‏לעקוב ‏לאן ‏אנשים ‏הולכים, את ‏מי ‏הם ‏פוגשים, ‏לכמה ‏זמן ‏והיכן. ‏במערכת ‏עצמה ‏אנשים ‏אינם ‏מזוהים ‏לפי ‏שם ‏או ‏פרטים ‏אחרים ‏אלא ‏לפי‏ מספרים ‏('חולה ‏מס'‏ 74')". עם זאת, רשויות הבריאות יכולות, במידת הצורך, להגיע לזהות האזרחים שמאחורי מספר החולה. כלומר, האנונימיזיציה היא על פני השטח בלבד.

 

לפי חוות הדעת, המערכת מספקת שלושה שירותים עיקריים. הראשון, מיפוי מעגלי הדבקה במעגל השני והשלישי, באמצעות עיבוד וניתוח מפגשים מאומתים בין נשאים לאנשים אחרים. השני, יצירת מפות חום שמאפשרות לזהות ואף לחזות מוקדי התפרצות – החל ממקום סצפיפי כמו מסעדה או בית כנסת, ועד ברמה אזורית כמו שכונה או עיר. השירות השלישי הוא גם השנוי ביותר במחלוקת: דירוג פוטנציאל ההדבקה של כל אזרח בסולם של 1 עד 10. "מערכת‏ זו ‏מבוססת‏ כרגע ‏על ‏חישוב ‏אלגוריתמי ‏של‏ מעקב ‏המיקום ‏וזמן ‏השהייה ‏של ‏כל ‏אדם ‏בקרבת ‏חולה, ‏והיא ‏מיועדת ‏להכרעה ‏מי ‏יצטרך ‏לעבור ‏בדיקה ‏לגילוי‏ המחלה", נכתב.

 

שלו חוליו, מייסד ומנכ"ל NSO שלו חוליו, מייסד ומנכ"ל NSO צילומים: אוראל כהן, אביטל פלג

 

השירות השלישי זכה לביקורת הרבה ביותר, כשמומחי פרטיות רבים השוו אותו למערכת הדירוג החברתי שמשמשת את סין על מנת להעניק ציוני התנהגות לאזרחיה, שמשפיעים על השירותים השונים שהם יכולים לקבל. המערכת לא מבצעת את פעילות איסוף המידע בעצמה, אך היא זו שמסוגלת לתת משמעות למידע, לנתח אותו ברמה גבוהה על מנת להתחקות אחרי תנועות מדויקות של אזרחים ולזהות את האנשים שעמם נפגשו.

 

חוות הדעת מעלה בהקשר זה לא מעט בעיות הנוגעות לאופן פעילות המערכת, ובהן הבחירה של משרד הביטחון לעבוד עם NSO. "חברת ‏ NSO ‏ידועה ‏כחברה ‏הפועלת ‏במחשכים ‏ויש ‏לגביה ‏מחלוקת ‏ציבורית ‏קשה ‏בעולם, ‏שהתבטאה‏ בדו"חות ‏של ‏הרפורטר ‏לענייני ‏פרטיות ‏וחופש ‏ביטוי ‏של ‏האו"ם ‏וכן ‏של ‏ארגוני ‏חברה ‏אזרחית ‏בעולם,‏ ובתביעות ‏אזרחיות ‏על ‏ידי ‏חברות ‏גדולות ‏וארגוני ‏זכויות ‏אדם", נכתב. "‏במדינת ‏ישראל ‏יש ‏עשרות ‏חברות ‏העוסקות‏ בניתוח ‏מידע ‏בקנה ‏מידה ‏רחב, ‏בין ‏אם ‏מדובר ‏בחברות ‏ישראליות ‏ובין ‏אם ‏מדובר ‏במרכזי ‏פיתוח ‏של ‏חברות‏ בינלאומיוות ‏כגון‏ IBM ‏ומיקרוסופט. ‏אף ‏שככל ‏הנראה ‏מדובר ‏במערכת ‏טובה, ‏מכל ‏מקום ‏החשש ‏של‏ whitewashing‏ בחסות ‏המדינה ‏הוא ‏חשש ‏קיים".

 

מעקב מעקב צילום: שאטרסטוק

 

ביקורת נוספת עוסקת באופן פעילות המערכת: "גם ‏אם ‏המידע ‏במערכת ‏הוא ‏אנונימי, ‏קיימת יכולת קלה יחסית לבצע זיהוי חוזר. ‏כאשר ‏מדובר ‏על ‏מערכת‏ המקבלת, ‏למשל, ‏את ‏נתוני ‏האיכון ‏של ‏'חולה ‏מס' ‏74' ‏ארבעה ‏עשר ‏יום ‏אחורה, ‏היכולת ‏שלה ‏לבצע ‏זיהוי חוזר ‏היא ‏גבוהה.‏ אפשר‏ לדעת‏ להיכן ‏חזר ‏החולה ‏כל ‏לילה ‏כדי ‏לישון,‏ מהו‏ מקום‏ העבודה ‏שלו ‏ועוד".

 

יכולות דירוג ההדבקה, מזהירות שוורץ אלטשולר וארידור הרשקוביץ, יכולות בקלות להפוך למערכת דירוג חברתי. "זאת, ‏משום ‏שאפשר ‏להוסיף ‏לה‏ בנקל ‏משתנים ‏נוספים ‏(החל ‏בגיל, ‏מין, ‏היסטוריה ‏רפואית, ‏מוצא, ‏עובר ‏במצב ‏דתי, ‏קשרי ‏משפחה, ‏מיקום‏ גיאוגרפי, ‏מקום ‏עבודה, ‏וכלה ‏בעמדה ‏פוליטית). אף ‏שהיא ‏מיועדת ‏כרגע ‏להכרעה ‏מי ‏יצטרך ‏לעבור ‏בדיקה לגילוי ‏המחלה,‏ ניתן‏ יהיה‏ להשתמש‏ בה‏ בהמשך‏ לצורך‏ הכרעה,‏ למשל,‏ מי‏ יוכל‏ לצאת ‏מהבית‏ ומי‏ לא ‏ולהיכן. מדובר ‏למעשה ‏בפעם ‏הראשונה ‏שבה ‏ייעשה ‏שימוש ‏במערכת ‏דירוג ‏חברתי ‏מבוססת ‏בינה ‏מלאכותית‏ במדינת‏ ישראל,‏ וזאת‏ מבלי‏ שיש‏ קנה‏ מידה‏ חוקי‏ או‏ אתי ‏לפקח ‏על ‏כך;‏ מבלי‏ שהתקיים ‏דיון‏ ציבורי‏ בהשלכות‏ ובעיקר ‏– ‏מבלי ‏שהוכח ‏הצורך ‏הבוער ‏בכך", הן התריעו.

 

בעיות אחרות שמזכירות שתי החוקרות קשורות לצד איסוף המידע שמוזן למערכת, ואשר ככל הנראה אינו מערב את NSO. "בנט ‏מתאר ‏מערכת ‏מרכזית ‏של‏ משרד ‏הביטחון ‏וצה"ל, ‏שלתוכה ‏'נשפוך ‏את ‏כל ‏המידע', ‏כלומר, ‏הוא ‏מניח ‏שיקבל ‏גישה ‏לנתוני ‏האיכון ‏של‏ השב"כ", נכתב בחוות הדעת. "‏אמירה ‏זאת‏ מנוגדת‏ לכל‏ הצהרות‏ המדינה, ‏לפיהן ‏לא ‏ייעשה ‏שום ‏שימוש ‏נוסף ‏במידע ‏ובוודאי ‏שהוא ‏לא ‏יועבר ‏לשום ‏רשות ‏אחרת‏ מרשויות‏ המדינה.‏‏ ‏ תוכנית ‏בנט ‏מבקשת ‏להמשיך ‏ולהשאיר ‏את ‏הטיפול ‏במידע ‏הפרטי ‏הרגיש ‏על ‏אודות ‏אזרחי ‏ישראל ‏בידי מערכת הביטחון,‏ ויתרה‏ מכך,‏ להעביר‏ מידע‏ מן‏ השב"כ‏ אל‏ הצבא ‏ומשרד‏ הביטחון.‏ מדובר ‏במידע רגיש ‏על ‏אודות ‏אזרחים ‏שאינם ‏עבריינים, ‏חשודים, ‏אויבים ‏או ‏דיסידנטים. בנט‏ ‏מקווה‏ שהמערכת ‏תופץ ‏בעולם ‏בעקבות ‏השימוש‏ בה‏ בישראל.‏ ‏אין‏ כל ‏סיבה‏ שהמידע‏ הפרטי‏ ‏אודות‏ אזרחי ‏ישראל‏ ישמש‏ לשולחן‏ הניסויים‏ של ‏כל‏ אזרחי‏ העולם.‏ איש‏ לא‏ ביקש‏ רשות ‏להשתמש‏ ‏במידע‏ לתכלית ‏הזאת,‏ והדבר ‏טעון ‏דיון ‏ציבורי‏".

 

 

מעקב מעקב צילום: שאטרסטוק

 

חרף הבעיות הרבות, שוורץ אלטשולר וארידור הרשקוביץ סבורות שאפשר לעשות שימוש במערכת, תחת כמה תנאים חשובים: הסרת מרכיב הדירוג החברתי, הוצאת משרד הביטחון מהמשוואה לטובת התקשרות ישירה של משרד הבריאות עם NSO, התבססות על נתונים מחברות הסלולר במקום נתוני שב"כ, ובעיקר פעילות תחת כללי עיצוב לפרטיות ואבטחת מידע (שימנעו, למשל, ניצול לרעה של המידע שנאסף או יאפשרו זיהוי קל של האזרחים שאחרים מתבצע המעקב).

 

יישום ההמלצות שבחוות הדעת אמנם יאיין חששות רבים שקשורים להפעלת המערכת, ואולם לאור ההתנהלות הנוכחית של מקבלי ההחלטות בישראל, שהתאפיינה בתעדוף המאבק בקורונה על פני כל שיקול אחר – בין אם של פגיעה הפרטיות, פגיעה בזכויות אזרח, פגיעה בכלכלה ועוד – יש מקום אמיתי לחשוש שלו יוחלט להתקדם עם הפעלה המערכת אף אחת מהמלצות אלו לא תיושם וישראל תהפוך בן לילה למדינה שעושה שימוש במערכת שפיתחה חברה פרטית ושמופעלת על ידי גופי ביטחון על מנת לרגל אחר אזרחיה.

 

מ-NSO נמסר בתגובה: "עם פרוץ מגיפת הקורונה בעולם, החברה קיבלה פניות ממדינות שונות בעולם באשר לפתרון טכנולוגי שיסייע במיגור התפשטות המגיפה. החברה הצליחה לפתח במהירות שיא מערכת אנליטיקה חדשנית שתסייע למקבלי החלטות בניהול התפשטות המגיפה לצד ניהול החזרת המשק לשגרה. כל זאת מבלי לפגוע בפרטיות. החברה סיפקה את המערכת למספר מדינות ומקבלת משובים חיוביים מאוד מהפעלתה על ידי המדינות. המידע מוזן למערכת על ידי המדינות והשימוש בה נעשה באופן בלעדי על ידי רשויות המדינות ולא על ידי החברה. המערכת הוצגה על ידי החברה בשקיפות מלאה לגורמים מתחומים שונים ומגוונים, ביניהם גם למכון הישראלי לדמוקרטיה. אנו שמחים לקרוא כי גם המכון הישראלי לדמוקרטיה מבין את הצורך בשימוש בטכנולוגיות בעיתות מסוג זה, מבין ומקבל את היכולות שהמערכת מאפשרת למקבלי ההחלטות ואינו שולל את השימוש בה, במגבלות מקובלות ושממילא הוצבו על ידי החברה".

בטל שלח
    לכל התגובות
    x