$
28.07.18
מוסף כלכליסט
במפקדה של האח הגדול: ביקור בחברת זיהוי הפנים שאחראית לפרויקט המבהיל ביותר בסין
570 מיליון מצלמות, 1.3 מיליארד תמונות פרצוף של אזרחים, ומערכת זיהוי פנים סופר־עוצמתית שמזהה בחלקיק שנייה כל עובר אורח ברחוב. כתב כלכליסט הוזמן לבקר ב"חדר המכונות" של הפרויקט של ממשלת סין: מדינה ללא פשע
מוסף שבועי 26.7.18 אופיר דור, צילום: אוראל כהן
אופיר דור, בייג'ינג 13:0028.07.18
1. בלי גורם אנושי

 

בכתבה שפורסמה בשבועון "האקונומיסט" הגדירו את משרדי חברת Megvii בבייג'ינג "חדר המכונות של האח הגדול". את הטכנולוגיה שפיתחו אנשי החברה כינה אתר הביזנס אינסיידר האמריקאי "מצמררת". לכן לקראת הביקור שתואם לי ב־Megvii, אחת החברות המובילות בעולם בפיתוח טכנולוגיית זיהוי פנים, ציפיתי לפגוש מערך אבטחה קפדני, המתובל בחשדנות ביטחונית מהסוג הסיני.

 

להאזנה לכתבה, הוקלט על ידי הספריה המרכזית לעיוורים ולבעלי לקויות קריאה

 

 

 

במקומו חיכה לי בכניסה למשרדי החברה שומר יחיד, מעונב ומשועמם למדי. במהלך ההמתנה שנמשכה כמה דקות צפיתי בעובדי החברה נכנסים למשרדים בלי שאיש יבדוק את זהותם, יפשפש בתיקיהם או אפילו יבקש מהם להציג תג זיהוי. הם פשוט חלפו על פניי ונכנסו פנימה עם כוסות קפה בידיהם.

 

רק מאוחר יותר, כשנכנסתי בעצמי, הבחנתי בארבע מצלמות שניצבו על חצובות גבוהות מול דלת הכניסה. שנייה אחת אחרי המעבר של כל עובד, צילום פניו ולצדו שמו המלא הבזיקו על מסך שבו התבונן השומר. הגורם האנושי, מתברר, יידרש להיכנס לפעולה רק במקרה שבו אחד הנכנסים לא יזוהה על ידי המערכת.

 

עובדי Megvii ומסך ה"עין" במשרדים בבייג'ינג. כולם מתגאים במה שהם עושים עובדי Megvii ומסך ה"עין" במשרדים בבייג'ינג. כולם מתגאים במה שהם עושים צילום: אופיר דור

 

2. בלי פשע

 

Megvii (מגווי להלן) היא אחת הספקיות הגדולות של טכנולוגיות זיהוי פנים למשטרות האזוריות ברחבי סין. המשטרות הללו, בדרבון השלטון המרכזי, נמצאות כיום במירוץ אדיר לבנייה ופריסה של רשת אבטחה ומעקב ארצית, בהיקף שלא היה כמותו עד היום בשום מקום בעולם. היקף שאכן מזכיר את זה שתיאר ג'ורג' אורוול באופן מצמרר ברומן הדיסטופי "1984".

 

מגווי, המוכרת בסין גם בשם ++Face על שם המוצר העיקרי שלה, מפתחת את הטכנולוגיה שעליה מבוססת השאיפה הסינית למדינת ענק כל יכולה, שרואה ושומעת הכל. אימפריה שבה הפשיעה מוכחדת לגמרי, וכך גם כל ניסיון להתנגדות פוליטית או לגיבוש קהילה מבודלת אתנית או דתית. החזון העתידני הזה יונק במידה רבה ממשנתם של מעצבי מדיניות סינים היסטוריים כמו שאנג יאנג, שקרא כבר לפני יותר מאלפיים שנה ליצירת מדינה המטילה מורא על אזרחיה באמצעות מעקב וענישה. מדינה טוטליטרית כזו, לשיטתו, תגבר על מחלוקות ופיצולים פנימיים ותועיל בסופו של דבר לכולם. בדרך לחזון הזה, לפי כמה פרסומים, מגווי כבר מקושרת ישירות למאגר הממשלתי, הכולל את הרשומות של 1.3 מיליארד תושבי סין.

 

 צילום: אוראל כהן

 

3. בלי היסוס

 

משרדי מגווי ממוקמים בלב שכונת ג‘ונג גואן צון בבייג'ינג, "עמק הסיליקון הסיני". הם נראים כמעט כמו כל מטה של חברת הייטק בהרצליה פיתוח או בפאלו אלטו, אולי מעט צפופים יותר. אבל מה שניכר מיד לעין הוא הנעורים. הגיל הממוצע של 600 עובדי החברה בבייג'ינג (מתוך 1,500 סך הכל) הוא 25 בלבד. זה לא בגלל אפליית מבוגרים, אלא משום שבסין אין כמעט כוח אדם מבוגר יותר המתמחה בבינה מלאכותית ובתחומים משיקים, שהתחילו להתפתח כאן רק בשנים האחרונות.

גם אלה שעומדים בראש החברה, לרבות המנכ"ל יין צי (Qi Yin), עדיין לא חגגו 30. לגיל הצעיר יש משמעות, משום שהוא אינו מאפשר פרספקטיבה. התלהבות של אנשים צעירים מבטיחה יצירתיות ודהרה קדימה, אבל היא מאפשרת מעט מאוד התבוננות ביקורתית והבנה של ההשלכות הטכנולוגיות. ודאי במדינה שממילא אינה מעריכה ביקורתיות.

 

שוטרת סינית עם משקפיים מצוידים בטכנולוגיית זיהוי פנים. משמשת גם למטרות פוליטיות ולמשטור אוכלוסייה תמימה שוטרת סינית עם משקפיים מצוידים בטכנולוגיית זיהוי פנים. משמשת גם למטרות פוליטיות ולמשטור אוכלוסייה תמימה צילום: איי אף פי

ואמנם האנשים שאני פוגש במגווי אינם מהוססים. הם גאים ושמחים להראות לי על מה הם עובדים. הטכנולוגיה שהם מפתחים והשימושים שלה לשיטור ומעקב אולי שנויים במחלוקת במערב, אבל כאן הם משהו להתפאר בו. "זאת טכנולוגיה שעוזרת לתפוס אנשים רעים", הגדיר אותה המנכ"ל יין צי בראיון שנתן. סגן נשיא החברה התפאר כי הטכנולוגיה אפשרה את המעצר הראשון של חשוד באמצעות זיהוי פנים בעולם האמיתי. "זאת כנראה הפעם הראשונה שזה קרה שלא בקולנוע", אמר בחיוך.

 

כולם מסביב נראים מרוצים. מאוחר יותר, בחדר התצוגה למבקרים, אגלה שמצלמות המפוזרות ברחבי המשרדים מצלמות ומשדרות את התמונות של העובדים בלייב, כל יום, כל היום, כחלק מתצוגת התכלית של היכולות של הטכנולוגיה שהם עצמם מפתחים. הצילומים מוקרנים על גבי מסך, כאשר מסגרת זיהוי לבנה מקיפה כל פרצוף.

 

4. בלי להתבלבל

 

בסין יש כיום כ־170 מיליון מצלמות אבטחה. אחת על כל שמונה תושבים פחות או יותר. המספר עתיד לזנק ל־570 מיליון בשנתיים הבאות, כחלק מהתוכנית הממשלתית ששמה "עין חדה". יחס בלתי נתפס, שבו יש מצלמה ממשלתית על כל שני תושבים כמעט. "עין חדה" הוא שם שלקוח מהסלוגן הקומוניסטי "להמונים יש עיניים חדות" מימי מאו דזה־דונג, המנהיג הסיני שלא הסתיר את שאיפתו שכל אזרח ידווח על חברו. היעד של "עין חדה" הנוכחי לפי הדיווחים הוא "להאיר כל פינה אפלה, להעלים את הצללים שבהם הפשע פורח".

 

האמת היא שבדרך כלל אני כמעט לא שם לב למצלמות האבטחה שברחובות בייג'ינג. העין מתרגלת, והמוח מפסיק לייחס להן חשיבות. רק כשחבר מגיע לבקר הוא פתאום מפנה את תשומת לבי לכך שבכניסה לתחנת הסאבווי, למשל, זו שאני עולה בה בכל יום לרכבת, תלויות שש מצלמות שמכסות את כל האזור. אחרי הביקור שלי במגווי כבר יהיה לי קשה שלא להבחין בהן. ודאי כשאני כבר יודע למה הן מסוגלות.

 

 

המסך הראשון שבו נתקלים בחדר התצוגה מכה אותי בהלם: הוא מציג פינת רחוב רגילה בעיר, שמצולמת על ידי מצלמת רחוב שתלויה מלמעלה. אלא שלצד הצילום הכללי מופיעים, בריבועים בצד המסך, תקריבים של האנשים שעוברים לתומם באותה נקודה, עם ציון הזמן המדויק שבו עברו שם. ואז המערכת מפרקת כל אדם כזה למאפיינים הראשוניים שהמצלמה מסוגלת לקלוט: גבר או אשה, צעיר או מבוגר, תסרוקת קצרה או ארוכה, צבע הבגדים, אורך השרוול וכיוצ"ב. כל המידע הזה נאסף, לצד תיעוד של המעבר של אותו אדם באותה פינה בזמן מסוים.

 

המסך בחדר התצוגה מכה אותי בהלם: צילומים שמועברים מפינת רחוב סתמית בעיר מפורקים לתקריבים של כל מי שעובר באותה נקודה, כולל ציון זמן מדויק ומאפיינים פיזיים
 

המסכים הבאים כבר מדגימים איך מתבצע זיהוי הפנים. מסך אחד מראה כיצד המערכת משרטטת קווים וירטואליים על גבי הפרצוף של מי שנקלט במצלמה כדי למדוד את הפרופורציות השונות. הטכנולוגיה של מגווי משתמשת ב־106 פרטי מידע שהיא מזהה בפניו של אדם כדי להבדיל בינו לבין אחרים. מסך אחר מראה כיצד המערכת מצליחה להתמודד עם עומס ולבודד פנים מתוך המון בני אדם השועט החוצה מתחנת סאבוויי עמוסה. הטכנולוגיה, כך נכתב, יכולה להתמודד עם כמאה פרצופים בבת אחת. בסופו של תהליך, לאחר שהמערכת מזהה אדם ספציפי, היא מצמידה לו מספר סידורי שיאפשר לה לחזור לעקוב אחריו אם יופיע במקום אחר.

 

מצלמות בכיכר טיאנאנמן מצלמות בכיכר טיאנאנמן צילום: רויטרס

 

5. בלי טעויות

 

מה שמייחד את הטכנולוגיה בחדר התצוגה של מגווי הוא שלא מדובר באיזה אבטיפוס עתידי או בפיילוט ניסיוני. המוצרים של החברה כבר נמצאים בשימוש מעשי. המסכים בחדר התצוגה מדגימים למעשה את פעולתה של מערכת אבטחה משטרתית ששמה Skynet, שהיא אחד היישומים הבולטים של הטכנולוגיה של מגווי. דיווחים בתקשורת הסינית מלמדים שהמערכת כבר מופעלת ב־16 ערים ומחוזות בסין.

 

Skynet, זוכרים ודאי חובבי הקולנוע, הוא שמה של ישות העל הממוחשבת בסדרת סרטי הפעולה העתידניים "שליחות קטלנית". היא פותחה במקור עבור הצבא האמריקאי אך פיתחה מודעות עצמית ומאותו רגע החלה לפעול באכזריות כדי להשמיד את האנושות ולהציל את עצמה, לרבות שיגור טילים גרעיניים לעבר רוסיה, שמחוללים מלחמה עולמית. ביני לביני אני תוהה אם הבחירה בשם הזה דווקא מבטאת חוסר היכרות עם הקולנוע ההוליוודי, הומור חולני או פשוט ניסיון מודע להטיל אימה.

 

בינתיים למערכת Skynet הסינית המשטרות האזוריות מזינות תמונות של מבוקשים, וכאשר אחד מהם נקלט באחת המצלמות המערכת מתריעה מיד. הממשלה מתגאה ברמת דיוק של 99.8% בהתאמת הפנים של מי שעובר ברחוב לפרצופים של חשודים שהוזנו מראש למערכת, בלי תלות בזווית הצילום ובתנאי התאורה. אבל במגווי מסבירים לי שהמשטרה לא חייבת בהכרח תמונה של החשוד כדי שהמערכת תזהה אותו. במקרים רבים די להזין לתוכה פרטים מזהים עליו, כמו גיל, מין ולבוש כדי שהיא תתריע כאשר אדם שעונה על הקריטריונים האלה נקלט באחת המצלמות.

 

מסך של המערכת של Megvii. הטכנולוגיה מסוגלת לזהות באופן עצמאי כל מי שעובר בשטח הציבורי מסך של המערכת של Megvii. הטכנולוגיה מסוגלת לזהות באופן עצמאי כל מי שעובר בשטח הציבורי

 

6. בלי לעצור

 

מגווי הוקמה ב־2011 על ידי שלושה בוגרים טריים של אוניברסיטת צ'ינגחואה היוקרתית, שהצמיחה לא מעט יזמי טכנולוגיה ומכונה "MIT של סין". הפיתוח הראשוני היה בכלל משחק ששמו "העורבים באים", שבו המשתתפים היו צריכים לחסל עורבים באמצעות תנועות ראש מתוזמנות שזוהו על ידי מצלמה. עד היום, בחגים ובאירועים מיוחדים בחברה, העובדים משתעשעים במשחקים תוצרת בית, המבוססים על זיהוי פנים ותנועה. למשל, משחק שמשווה בין צילום עכשווי שלהם לצילום מצעירותם כדי לקבוע באיזה מהם הם מושכים יותר.

 

כחלק מהניסיון של חברות סיניות להשיג כישרונות חדשים ולהתמודד עם בריחת מוחות, גם מגווי פתחה מרכז מחקר בארצות הברית. כיום מועסקים במרכז בסיאטל קרוב ל־20 מהנדסים, רובם סינים בוגרי אוניברסיטאות אמריקאיות. ועדיין, מגווי היא חברה סינית פרטית, ששומרת על המספרים שלה בחשאיות. היא פועלת בשוק שהולך וגדל בסין בקצב מדהים. לפי חברת המחקר Markit IHS, שוק מצלמות האבטחה בסין גלגל 6.4 מיליארד דולר ב־2016, והוא עתיד להמשיך לגדול בקצב שנתי של כ־12% בשנה עד 2021. לשם השוואה, השוק האמריקאי הסתכם ב־2.9 מיליארד דולר ב־2016, וקצב הצמיחה השנתי הצפוי בו הוא 0.7% בלבד.

 

המנכ"ל יין צי. בחברה שבה הגיל הממוצע הוא 25, לעובדים אין פרספקטיבה המנכ"ל יין צי. בחברה שבה הגיל הממוצע הוא 25, לעובדים אין פרספקטיבה צילום: youtube

הפוטנציאל האדיר לא נעלם מעיני המשקיעים. בנובמבר האחרון גייסה מגווי כ־460 מיליון דולר, שהשלימו 600 מיליון דולר שהוזרמו אליה מאז הקמתה. עם המשקיעים נמנו קרן ממשלתית סינית גדולה והחברות עליבאבא ויצרנית האייפונים פוקסקון, לפי שווי חברה של כ־2 מיליארד דולר. בשבועות הקרובים עתיד הסטארט־אפ השאפתני להשלים גיוס של 600 מיליון דולר נוספים.

 

גם אחרי המספרים המרשימים האלה, מגווי איננה החברה הגדולה ביותר בתחום. המתחרה SenseTime, שנוסדה בהונג קונג, כבר מוערכת בשווי של 4.5 מיליארד דולר, ולפי פרסומים עתידה לקבל השקעת ענק של מיליארד דולר מהתאגיד היפני סופטבנק. גם חברות קטנות יותר בשוק, כמו Yitu משנגחאי, שוות יותר ממיליארד דולר. הכוח המניע מאחורי הבולמוס הזה הוא המשטרות המקומיות ברחבי סין, שלפי ההערכות יוציאו בשנים הקרובות 30 מיליארד דולר על מוצרי טכנולוגיה לאבטחה ומעקב.

 

7. בלי זיופים

 

המעצר הראשון על בסיס הטכנולוגיה של מגווי התרחש במהלך ועידת הפסגה של מנהיגי מדינות G20, שהתקיימה בעיר האנג ג'ואו במזרח סין בספטמבר 2016. לפי הדיווחים בסין, בשנתיים האחרונות הצליחה המשטרה הסינית לבצע 2,000 מעצרים באמצעות המערכת. המשטרה בעיר גוויאנג, בירת מחוז בדרום־מערב המדינה, השתמשה במערכות זיהוי פנים 1,000 פעמים בשנה שעברה כדי ללכוד 375 בני אדם, מהם 39 פושעים נמלטים. באפריל פורסמו תמונות מעצר של חשוד בפשעים כלכליים במהלך מופע פופ בעיר נאנצ'אנג בדרום־מזרח המדינה. הוא זוהה באמצעות מצלמות אבטחה כשקנה את הכרטיסים בקופה, אבל במגווי מציינים בפניי בצער שבמקרה ההוא המערכת היתה של חברה מתחרה.

 

כאשר לא מחפשים פושעים, המערכת המשטרתית סייעה במציאת ילדה בת שש שהלכה לאיבוד: המשטרה סרקה את תמונת הילדה, אחת המצלמות זיהתה אותה והיא הוחזרה לביתה. מלבד המשטרות, למגווי יש רשימה מרשימה של לקוחות אזרחיים. עליבאבא משתמשת בטכנולוגיה שלה כדי לאפשר תשלום באמצעות זיהוי פנים או לאימות לפי פנים בעת העברת כסף. עליבאבא גם משלבת את הטכנולוגיה במערכות העיר החכמה שלה, שמבצעות אופטימיזציה של התנועה באמצעות זיהוי עומסים של מכוניות או אנשים. המערכת, טוענת החברה, שיפרה את מהירות התנועה בעיר חאנג ג'ואו בכ־20%.

 

הטכנולוגיה גם מוטמעת במכשירי הסלולר של היצרניות הסיניות, שמספקות אפשרות לתפעול המכשיר באמצעות זיהוי פנים; היא משמשת את חברות הנדל"ן הגדולות במדינה כדי לפקח על הכניסה לבנייני המשרדים שלהן; ואת חברת הנסיעות דידי צ'ושינג, "אובר של סין", כדי לוודא שרק נהגים מאושרים אוספים נוסעים; וכמובן בנקים ומוסדות פיננסיים, שמזהים באמצעותה לקוחות כדי למנוע הונאות.

 

המעצר הראשון על בסיס הטכנולוגיה של מגווי התרחש בוועידת מנהיגי G20 בספטמבר 2016. בשנתיים מאז הצליחה המשטרה הסינית לבצע 2,000 מעצרים באמצעות המערכת

 

8. בלי פרטיות

 

טום קרוז מחליף גלגלי עיניים בסרט "דו"ח מיוחד". גם הסינים רוצים יכולת למנוע פשעים טרם ביצועם טום קרוז מחליף גלגלי עיניים בסרט "דו"ח מיוחד". גם הסינים רוצים יכולת למנוע פשעים טרם ביצועם צילום: youtube

כמערבי בסין, מעת לעת אני משתעשע עם התהייה כמה זמן אוכל לשרוד כפושע נמלט ברחובות בייג'ינג. מול המסכים בחדר התצוגה של מגווי אני מבין שלא הרבה. כמה לא הרבה? במסגרת ניסוי שעשה כתב BBC בשיתוף המשטרה בעיר גוויאנג, הוא צולם והוכנס למאגר המבוקשים המשטרתי. לאחר מכן יצא בהליכה מתחנת הרכבת בעיר לתחנת האוטובוס הסמוכה. שבע דקות אחרי שיצא לדרך הוא נעצר בידי שוטרים. במגווי יכולים לעשות את זה מהר יותר. השיא שלהם הוא מעצר בתוך שתי דקות מהרגע שהמבוקש נקלט במצלמת אבטחה בתחנת רכבת תחתית, דרך הזיהוי שלו ועד הרגע שהיה בידי שוטרים.

 

אבל במגווי גם מודים בחולשה מרכזית של המערכת: בניגוד לחלק מהפרסומים בתקשורת, המערכת אינה מסוגלת לזהות בזמן אמת את כל מי שעובר ברחוב. ניתן להזין לתוכה אלפי פרצופים שונים, שאותם היא תדע לחפש באופן אקטיבי בקהל, אבל לא ניתן בשלב זה לחבר בין כל עובר אורח ברחוב למידע עליו הנמצא ברשומות.

 

אבל עובדים על זה. הטכנולוגיה של מגווי יכולה לשמור את הצילומים שנקלטו במיליוני המצלמות ולהשתמש בהם מאוחר יותר כדי לגלות אדם ספציפי, ברגע שהחיפוש שלו נהפך רלבנטי. כך אפשר לדעת היכן הסתובב קודם לכן החשוד הנוכחי. המלווה שלי בביקור בחברה אוליביה ג'נג, דירקטורית בכירה למיתוג בינלאומי, אומרת לי שהיכולת הזאת כבר שימשה כדי לבדוק אם אנשים מסוימים שהו באזור שספג רעידת אדמה.

 

אבל זאת רק אחת משורה אינסופית של יישומים. המערכת, מסבירים לי, תוכל לחזות גם מי עומד לבצע פשע עוד בטרם ביצע אותו. למשל אם תתבקש להתריע על אדם שנקלט פעם אחר פעם מסתובב באותה תחנת תחתית או בסמוך לסניף בנק. אם הוא אינו אחד מהעובדים, בהחלט יכול להיות שהוא חשוד.

 

בסרט המדע הבדיוני "דו"ח מיוחד" של סטיבן ספילברג, מערכת "קדם פשע" מצליחה לאתר פושעים ולשלוח אליהם שוטרים שעוצרים אותם רגע לפני שהם מבצעים את הפשע עצמו. בלי להיכנס לשאלה הפילוסופית הנוגעת למתח בין ידיעת העתיד לבחירה אנושית חופשית, אני נזכר שאצל ספילברג הגיבור, בגילומו של טום קרוז, נאלץ לעקור את עיניו ולהחליף אותן בזוג אחר כדי לחמוק מסורקים קוראי רשתית שהממשלה פיזרה ברחובות הערים.

 

הדגמה של זיהוי פנים בתערוכה בבייג'ינג. שוק של 6.4 מיליארד דולר, שגדל ב־12% בשנה הדגמה של זיהוי פנים בתערוכה בבייג'ינג. שוק של 6.4 מיליארד דולר, שגדל ב־12% בשנה צילום: רויטרס

 

9. בלי להעתיק

 

מבחינת מגווי, שוק האבטחה אינו מספק את השאיפות. אחד מיעדי הצמיחה המרכזיים שלה הוא שוק הקמעונאות. בחדר התצוגה מדגימים בפניי מוצר שפיתחה החברה, אשר מסייע למכולות ולחנויות קטנות לשפר את יעילותן: המערכת מזהה מהם המקומות הפופולריים ביותר בחנות, באילו שעות הפעילות בחנות גבוהה יותר, ובעיקר – וזה הלב – מי הלקוחות שנמשכים לסוגי מוצרים שונים. פיתוח כזה, מקווים במגווי, יסייע לה לפרוץ מחוץ לסין, לחנויות במערב.

 

אבל הפריצה הזאת לא תהיה קלה. בשלב זה התקשורת בארצות הברית ובאירופה מסקרת את מערכות הזיהוי של החברה בדגש על הפגיעה בפרטיות והשימוש בהן להפרה של זכויות אדם. בעיתון הסיני הממשלתי "גלובל טיימס" טענו בתגובה כי הטענות המערביות מבטאות "סטנדרט כפול", מאחר שכל הממשלות בעולם משתמשות באמצעים דומים.

 

ג‘נג מכירה היטב את הביקורות נגד הטכנולוגיה של החברה. היא למדה בארצות הברית ועבדה במשך שנים ככתבת "הוול סטריט ז'ורנל" בבייג'ינג. "אישית אני לא מוטרדת מנושא הפגיעה בפרטיות", היא אומרת לי. "כבר היום אנחנו משתמשים באפליקציות שמכניסות את כל המידע שלנו לרשת, כך שאם הממשלה או המשטרה רוצות לדעת לאן אנחנו הולכים או מה אנחנו עושים, אין להן בעיה. יש להן דברים חשובים יותר לעשות מאשר לעקוב אחרי חיי היומיום של אזרחים רגילים. חוץ מזה", היא מוסיפה, "אנשים שאומרים שיש יותר מדי מצלמות אבטחה בבייג'ינג צריכים לזכור שבלונדון יש אפילו יותר".

 

האם באמת אזרחים רגילים לא יושפעו ממערכות זיהוי כה נרחבות וכה רבות עוצמה? דעה דומה לזו שמשמיעה באוזניי ג'נג השמיעו בפניי גם לא מעט אזרחים סינים אחרים. כולם רוצים לתפוס פושעים ואנשים רעים. הלוואי שיכולתי להאמין שהטכנולוגיה תשמש רק למטרות האלה. אבל העדויות מצטברות, ועולה מהן שמערכות זיהוי פנים כמו של מגווי משמשות גם למטרות פוליטיות או למשטור של אוכלוסייה תמימה.

 

למערכת האבטחה המשטרתית קוראים Skynet - שמה של ישות העל הממוחשבת בסדרת סרטי "שליחות קטלנית", שפיתחה מודעות והחלה לפעול באכזריות כדי להשמיד את האנושות
 

למשל, מצלמות וידיאו המוצבות ברחובות, בבתי ספר ובכניסות למסגדים מפקחות על החיים של המיעוט המוסלמי האויגורי במחוז שינג‘יאנג בדרום־מערב סין. העילה הרשמית היא "לחימה בטרור". בבית ספר תיכון בעיר האנג ג'ואו משתמשים במערכות כאלה גם כדי לפקח על התנהגות הילדים ולראות מי מאחר, מי מחסיר שיעורים ואפילו מי אוכל מזון שומני מדי בקפטריה. בעיר שנג'ן מערכות כאלו משמשות גם לבייש את מי שמבצעים עבירות קלות להחריד כמו מעבר באור אדום: תמונות ה"עבריינים" מוקרנות על מסך מעל מעבר החצייה.

 

וכמובן, טכנולוגיית זיהוי פנים תשמש כלי מרכזי ב"תוכנית הדירוג החברתי" של כל תושבי סין. עד 2020 יוענק לכל אחד ואחת מהם דירוג שיהיה מבוסס על מהימנותם, מידת הציות שלהם לחוק או החובות שצברו. הדירוג ישפיע על יכולתם לנוע בחופשיות ברחבי המדינה או לצאת ממנה, וגם על המקצועות שיוכלו לעסוק בהם ומידת החירות שייהנו ממנה - מצרך שממילא נמצא במחסור במדינה. מצלמות זיהוי, מיותר לציין, יספקו חלק לא מבוטל מהאינפורמציה הדרושה.

 

10. עם מסיכה
 

בשלב הזה אני נקרא לנסות את הטכנולוגיה בעצמי. אני מצולם על ידי המצלמה בחדר התצוגה, והמערכת מנתחת את תמונתי בזמן אמת. היא מזהה אותי בקלות כגבר. זה קל. מערכות זיהוי פנים טובות יותר באופן כללי בניתוח פנים של גברים לבנים, והן טועות רק ב־1% מהמקרים. לעומת זאת מחקר שפורסם השנה מצא כי מערכת הזיהוי של מגווי טעתה ב־35% מהמקרים שבהם נדרשה לקבוע את מינן של נשים שחורות. בכל הנוגע לגילי, המערכת קבעה שאני סביב גיל 35. בלי לחשוף את גילי האמיתי, היא פספסה בשש שנים.

 

אני שואל מה יכול לעזור לי אם אני מבקש להימנע מזיהוי שלי. ג‘נג מסבירה לי שאיפור, גם כבד, לא יועיל. ניתוח פלסטי, לעומת זאת, יכול להועיל. אחר כך היא מוסיפה שגם מסיכות נגד זיהום אוויר, שנפוצות מאוד בבייג'ינג, מקשות על המערכת. ואני נזכר עד כמה אני רגיש לזיהום האוויר בעיר.

בטל שלח
    לכל התגובות
    x