כך שולחת הבינה המלאכותית אנשים למחנות מעצר בסין

לטכנולוגיה אין נשמה. היא אובייקטיבית לחלוטין, חפה ממניעים או מאינטרסים. היא לא יותר ולא פחות מסך האלגוריתם, התוכנה והחומרה שמרכיבים אותה. ולכן מדובר בכלי כל כך מדהים שיכול להפוך את העולם למקום טוב יותר, ובה בעת באחד מכלי הנשק מסוכנים שיש.

כי כל משתמש בטכנולוגיה יכול לצקת לתוכה איזה שימושים שהוא רוצה, ללא הגבלה, ללא מעצורים. אפשר להשתמש בה לטוב, למשל לפיתוח מכוניות אוטונומיות שכשיגיעו סוף סוף יצילו חיים ויחסלו את הפקקים. אפשר להשתמש בה בצורה בעייתית, למשל כדי לבנות מערך ניטור גלובלי של משתמשי אינטרנט במטרה להציג להם פרסומות מותאמות אישית. אפשר להשתמש בה לרע, למשל כאמצעי לביצוע פשעי סייבר ותקיפות שונות כמו התערבות במערכות בחירות.

חגיגות 70 שנה לסין הקומוניסטית צילום: רויטרס

ואפשר גם לעשות בה שימושים שטניים, בלתי אנושיים בעליל, שכל מטרתם היא לדכא מיעוטים, לשבור את רוחם ואת התנגדותם ולרדות בהם עד עפר. ומי שעושה את השימוש הנרחב ביותר בטכנולוגיה באופן זה היא סין. כתבנו כבר בדו"ח על איך הפכה סין את חבל שינג'יאנג למדינת משטרה בפועל, במטרה כחלק ממאמציה לדכא את בני המיעוט האויגורי שיושבים שם. מדובר במיעוט מוסלמי שהגיע מטורקיה. כ-10.1 מיליון איש מהם יושבים בסין ומהווים 0.76% מהאוכלוסיה הסינית. 80% מהם מתגוררים בחבל שינג'יאנג, והממשל הסיני עושה כל שביכולתו כדי לשבור את עצמאותם.

מאמצי סין לדיכויים כוללים ביצוע סריקות ביומטריות נרחבות לתושבים, כולל איסוף דגימה גנטית, צילומי שיניים ואולטרה-סאונד של האברים הפנימיים, רישות כל הרחובות במצלמות מעקב, ביצוע האזנות תכופות והקמת נקודת ניטור משטרתיות בכל פינת רחוב.

עתה, מסמכים חשאיים שחושף איגוד העיתונאים החוקרים הבינלאומי (International Consortium of Investigative Journalists, ICIJ), גוף ללא מטרות רווח שפועל על סמך שיתוף פעולה בין עיתונאים ומערכות חדשות מכל העולם, מספקים הצצה עמוקה יותר, ומפחידה יותר, למערכות שבנתה ומפעילה סין במטרה לדכא את אוכלוסיית האויגורים.

המסמכים, שנכתבו ב-2017, עוסקים ברובם במחנות המעצר (כך לשון הדיווח המקורי) או ה"חינוך" מחדש שהקימה סין בשינג'יאנג, וחושפים לעומק את פרטי שיטות העבודה שלהם, החל מהשיח שמשמש בהפעלתם (האסירים מכונים "סטודנטים" והמסמכים מונים את הדרישות ל"סיום הלימודים"), מספר השומרים, הפטרולים, מצלמות המעקב והאזעקות שמופעלים כדי למנוע בריחות, שיטת הנקודות מבוססת ההתנהגות שמשמשת כדי לדרג את האסירים, מערך העונשין והתגמולים שקובע האם אסיר יזכה להיפגש עם משפחתו, ותנאי הבריאות והרווחה הבסיסיים שלהם הם זכאים (אם כי לפי עדויות אין הקפדה על נהלים אלו, לרעת האסירים).

תושבים אויגורים בסין צילום: wikipedia

מדובר במסמכים ארוכים ומפורטים להדהים שחושפים את היקף ההשקעה והמחויבות של סין למערך הכליאה הזה, שבשנתיים וחצי האחרונות עברו דרכו יותר ממיליון איש, ושכל מטרתו היא לשבור כל שביב של התנגדות או עצמאות בקרב האויגורים. שווה להקדיש 20 דקות כדי לקרוא את הכתבה המלאה של ICIJ בנושא, ולהיזכר בתקופות אפלות יותר (למעשה, לדברי מומחים, מדובר במערך הכליאה ההמוני הגדול ביותר של מיעוט אתני-דתי מאז מלחמת העולם השנייה).

אבל אנחנו במדור זה מתעניינים יותר במסמכים שחושפים את מערך הניטור ואיסוף המידע העצום שמפעילה סין נגד האויגורים, שעושה שימוש בבינה מלאכותית על מנת לגבש רשימה ארוכה של חשודים שמיועדים להשלח לחינוך מחדש. המערך, שזכה לשם חסר המשמעות Integrated Joint Operations Platform, מתבסס על רשת של מצלמות המעקב, נקודות השיטור, מכשירי ריגול אחרי רשתות וויי-פיי ואפליקציות שתושבים מסוימים מחויבים להתקין שפעילותה כבר מוכרת. רכיב מרכזי נוסף הוא אפליקציה שבה מזינים שוטרים פרטים כמו גובה, סוג דם, רמת השכלה, מקצוע והיסטוריית נסיעות של כל מי שהם חוקרים. המידע מוזן גם הוא למערך ומשמש ליצירת רשימת החשודים.

"הסינים סבורים שבאמצעות איסוף מידע בקנה מידה גדול ועיבודו בסיוע בינה מלאכותית ולמידת מכונה הם יכולים לחזות מראש תקריות אפשריות, וכן לזהות אוכלוסיות עם נטייה לפעולות נגד המדינה ונגד המשטר", אמר ל-ICIJ ג'יימס מולוונון, מנהל המודיעין של SOS International, שמספקת שירותי מודיעין לכמה סוכניות ממשל בארה"ב. "והם משתמשים במידע הזה כדי לעצור אנשים. מדובר במערכת שליטה ובקרה מבוססת בינה מלאכותית, מוח קיברנטי שמהווה רכיב מרכזי באסטרטגיות השיטור של סין".

המערכת אוספת ומנתחת מידע בלי להתחשב בשיקולי פרטיות, ומסמנת אנשים רגילים לחקריה על סמך מידע איזוטרי כמו תפילות יומיות (האויגורים הם מוסלמים), נסיעות לחו"ל ותדירות השימוש בכניסה האחורית לבית. לצד הניטור הקבוע, המערך מצליח ליצור תחושה נוכחת תמידית ומאיימת שלפיה המדינה מסוגלת להציץ לכל הבט אינטימי בחיי הפרט. "ככה עובד טרור מדינה", אמרה סמנתה הופמן, אנליסטית במכון האוסטרלי לאסטרטגיה פוליטית. "חלק מהפחד נוצר מכיוון שאתה לא יודע מתי אתה לא בסדר".

בסך הכול חשף ICIJ 4 מסמכים, בין 11 עמודים יחדיו, שמפרטים את אופן הטמעת המערך ודנים בבעיות בתפעולו. אחד המסמכים, למשל, מספק הוראות לניהול חקירות ומעצרים המוניים על סמך רשימת החשודים שמספק המערך. לפיו, במשך שבוע אחד ביוני 2017 תפסו כוחות הביטחון 15,683 איש בשינג'יאנג, שסומנו על ידי המערך, ושלחו אותם למחנות מעצר (בנוסף ל-706 שנעצרו באופן רשמי). המערך ניפק למעשה רשימה של 24,412 איש, והמסמך מסביר את הסיבה להפרש: חלקם לא אותרו, אחרים נפטרו וכן הלאה. חלק מהעצורים, סטודנטים ואפילו עובדי ממשל, היו "קשים לתפעול", לפי המסמך.

מסמך אחר מגלה איך עשו כוחות ביטחון בשינג'יאנג שימוש באפליקציית מובייל בשם Zapya על מנת לסנן את כל שני מיליון תושבי החבל, ולבדוק קשרים פוטנציאלים לארגון המדינה האיסלאמית (דאע"ש) או ארגוני טרור אחרים (אגב, אף שהמסמכים עושים שימוש נרחב ב"טרור" ו"קיצוניות" כעילה לשליחת אנשים למחנות, בשום מקום במסכים לא מופיעה הגדרה של מושגים אלו).

נשיא ארה"ב דונלד טראמפ ונשיא סין שי ג'ינפינג פסגת g20 צילום: רויטרס

האפליקציה, שפותחה על ידי חברה בייגי'נגית בשם DewMobile, מיועדת רשמית לשיתוף קבצים ומאפשרת גם להוריד את הקוראן ולחלוק את תובנותיו עם משפחה ומכרים, וכן לשתף סרטונים ותמונות. הכל גם כשאין חיבור לרשת. היא פופולרית בקרב מוסלמים בכל העולם. ואולם, לפי המסמכים, ממשלת סין ניטרה את השימוש שעושים בה אויגורים במטרה לסמן חשודים אפשריים. המסמכים לא מבארים איך נאסף המידע ולא מזכירים שיתוף פעולה עם מפתחי האפליקציה, אם כי סביר ששיתוף פעולה מסוג זה אכן התרחש.

המערך העצום לא מוגבל לאויגורים בסין גופא. לפי החשיפה, גם שגרירויות וקונסוליות של סין אוספות מידע שמוזן למערכת הבינה המלאכותית ומשמש ליצירת רשימות אנשים שמיועדים לחקירה ולמעצר. במקרה אחד, רשימה של 4,341 איש גובשה על סמך בקשות לקבלת ויזה או מסמכים אחרים שהגישו אויגורים. האנשים שמופיעים ברשימה, נכתב, ייחקרו וייעצרו מיד כשיחצו את הגבול לסין.

רשימה אחרת שיצרה מערכת הבינה המלאכותית כוללת 1,535 איש משינג'יאנג ש"קיבלו אזרחות זירה וגם הגישו בקשה לויזות לסין". לפי המסמכים, 75 מהם מתגוררים בסין כאשר ומתוכם ל-26 אזרחות טורקית, 23 אוסטרלית, 3 אמריקאית, 5 שבדית, 2 ניו-זילנדית וכן הלאה. גורמי ביטחון הונחו לאתר ולחקור רבים מהם ככל האפשר, בלי להתחשב בהשלכות דיפלומטיות אפשריות.

מסמך נוסף מפרט האשמות שהוגשו בבית משפט נגד גבר אויגורי שנעצר ב-2017 באשמת "הסתה למחשבות קיצוניות". בהמשך התווספו לכתב האישום האשמות של "הסתה לשנאה אתנית ואפליה אתנית". המעשים שהובילו להאשמות אלו? קריאה של האיש לחבריות לעבודה להמנע מצפייה בפורנוגרפיה, להתבלל ולהמנע מקשרים חברתיים עם מי שלא מתפלל, ובעיקר "כופרים סינים". פרקליטו של הנאשם לא כפר באישומים ותחת זו ביקש מבית המשפט להקל עמו, מכיוון שמדובר בעבירה ראשונה. בין המשפט דן אותו ל-10 שנות מאסר.

סין, כמו שכתבנו כבר בעבר, לא היתה מסוגלת להקים את מערך הריגול, המעקב ועיבוד המידע העצום הזה ללא סיוע של חברות מערביות שמוכרות לה ידע וטכנולוגיה אבל האחריות של המערב, ובפרט של גופים עסקיים בו, גדולה הרבה יותר ולא מסתיימת בחברות שמעורבות ישירות בהפעלת ותחזוק מערך הריגול הזה. כל חברה ומדינה שעושה עסקים עם סין, אפילו עם מדובר בפעילות כמו סחר בסויה או הקמת מפעלי ייצור, נותנת יד ומסייעת לדיכוי אוכלוסיית האויגורים ולרדיפה של אוכלוסיות אחרות. כל דולר שזורם לסין מגיע בחלקו לכיס הממשלה הסינית, ומשמש נדבך נוסף במערך האימתני שהיא הקימה.

סשה ברון כהן נואם נגד פייסבוק צילום: youtube

זו אולי תרומה קטנה, לא משמעותית בפני עצמה, טיפה באוקיינוס, אבל מהו האוקיינוס אם לא אוסף טיפות רבות. כל עסקה, כל פעילות, נותנת לגיטמציה למשטר הדיכוי הסיני, מסייעת בידיו ישירות או בעקיפין, חומרית או רוחנית, לרדוף אוכלוסיות, לשלול מהן אפילו את תחושת האשלייה של מעט חופש אישי, לרדות אותן, לדכא אותן, לשבור ולהשפיל אותן, לכלוא אותן בהמוניהן במחנות מעצר. זה ידוע לא מהיום, ואין לשום איש שעושה עסקים עם סין את הזכות להגיד "לא ידעתי, לא הבנתי, לא ראיתי". המידע שם, העובדות ידועות ומוכחות. כל חברה שבוחרת לתת לגיטימציה לסין בדמות פעילות שם עושה זאת בעיניים פקוחות ובידיעה מלאה של מה שמתרחש במדינה, בהבנה שיש לה חלק בזה, אפילו במעט. זה צריך לייסר את מצפונם של מקבלי ההחלטות בחברות האלו, ואם מצפונם אינו מתייסר אפשר לתהות בצדק אם בכלל יש להם מצפון.

שלשום כתבנו כאן על הנאום המרתק של סשה ברון כהן בגנות פייסבוק ורשתות חברתיות בין השאר הוא תהה בדבריו איזה תפקיד היתה יכולה למלא פייסבוק בשואה. "זה לא מפתיע שמכונת התעמולה הגדולה בהיסטוריה מפיצה את תיאוריית הקונספירציה העתיקה בהיסטוריה – השקר שיהודים הם מסוכנים", הוא אמר. "כמו שציינה כותרת אחת, 'רק תחשבו מה גבלס היה עושה עם פייסבוק'. אם פייסבוק הייתה קיימת בשנות ה-30, היא הייתה מרשה להיטלר לפרסם מודעות של 30 שניות על "הפתרון לבעיה היהודית".

אחת התגובות לאמירה זו היתה שעם כלים כמו פייסבוק, ווטסאפ וטוויטר היו ליהודים כלי תקשורת שהיו מאפשרים להם להפיץ החוצה את הסכנה שבה הם שרויים, ולסייע בידיהם להנצל מהשמדה. גם אם נתעלם מחורים כמו האפשרות לחסום שימוש בכלים אלו (כפי שעושה סין), הנה בא המקרה הנוכחי ולמלמד שאין חשיבות אמיתית ליכולת להפיץ את המידע: הכל גלוי, הכל ידוע, הפרטים לעומקם, המחנות במלוא כיעורם. אבל העולם שותק, עסקים כרגיל. שוב.

עובדי גוגל מוחים צילום: בלומברג

קצרצרים

1. התפתחות חדשה במאבק של גוגל נגד עובדיה האקטיביסטים: ענקית הטכנולוגיה פיטרה אתמול ארבעה עובדים, לטענתה לאור הפרות חוזרות ונשנות של מדיניות אבטחת המידע של החברה. ואולם, קבוצה של עובדים טענה שהמהלך בוצע כניסיון למנוע התאגדות, שמדובר בניסיון לפגוע במנהיגות האפשריות של ועד העובדים, ושהחברה שינתה את המדיניות שלה על מנת שתוכל לבצע את מהלך הפיטורים. המשך יבוא.

2. ועוד בחדשות אקטיביזם: קבוצה של מוזיקאים קוראת לאמנים להסיר את השירים שלהם משירות המוסיקה בסטרימינג של אמזון, כמחאה על העבודה של החברה עם ICE, הסוכנות האמריקאית שאמונה על צייד וגירוש מהגרים לא מתועדים. הקבוצה, No Music For ICE, דורשת שאמזון תבטל את החוזים הקיימים שלה עם ICE ותפסיק לספק שירותי ענן לסוכנות ולגופים אחרים שמסייעים לה במאמצי הגירוש שלה. יוזמה מבורכת, אך בלי גיוס של אמנים מובילים היכולת שלה להניע שינוי קטנה, וגם אז לא בטוח שיהיה מספיק כדי לגרום לאמזון לשנות את התנהגותה. מצד שני, היא מעוררות מודעות לנושא וייתכן שתייצר גלי הדף בעלי השפעה רחבה יותר.

מארק צוקרברג פייסבוק עדות בסנאט ליברה צילום: Bloomberg

3. פייסבוק רוצה לשמוע אתכם. החברה השיקה אפליקציה חדשה בשם Viewpoints, שנועדה לביצוע סקרים ומחקרי שוק בנושאים הקשורים לפעילות האפליקציות, השירותים והמוצרים השונים של החברה. משתתפים יקבלו תשלום עבור כל סקר או משימה שיתבקשו לבצע, ויוכלו לפדות אותו באמצעות חשבון הפייפאל שלהם. המחקר הראשון: סקר שבודקת את הרווחה הנפשית של משתמש הרשת החברתית. בפייסבוק מבטיחים, מבטיחים!, שהמידע לא יועבר לחברות אחרות. מאמינים לה?

4. וסינגפור הפעילה אתמול, לראשונה, את חוק הפייק ניוז שלה, כשהיא מחייבת אזרח לתקן פוסט פייסבוק שקרי, לדבריה. אבל האילוץ מעלה כמה תהיות: האזרח הוא למעשה פוליטקאי מהאופוזיציה, והפוסט האשים את הממשלה באחריות לכישלון השקעה של רשת מסעדות טורקית. בהתאם לחוק נאלץ הפוליטיקאי לשנות את הפוסט ולהוסיף בראשיתו הודעה שהמידע שם שגוי, וכן קישור להודעת תיקון של הממשל – שאורכה כפול מאורך הפוסט המקורי. החוק, שנחשב לאחד הקיצוניים שיש, מאפשר למדינה לקנוס פרסומים שקריים בסכום של עד 720 אלף דולר. השאלה המתבקשת עתה היא האם הממשל מנצל את החוק על מנת להשתיק ביקורת לגיטימית על פעילותו.