המשטרה לחברות הטכנולוגיה: היערכו למתקפת בוטים ופייק ניוז בבחירות
אגף החקירות והמודיעין פנה לחברות הטכנולוגיה באזהרה ופירט ארבע קבוצות של סימנים מחשידים לשימוש לרעה במערכות אוטומציה, בוטים וחשבונות מזויפים; הדגיש כי החברות עשויות לשאת באחריות משפטית אם יסייעו בהסתרת זהות, יעקפו מגבלות או ימשיכו לתת שירות לאחר התעוררות חשד ממשי; זאת ברקע החשש הגובר מפני התערבות זרה, ומפני ניצול כלי AI כדי להשפיע על טוהר הבחירות ואמון הציבור בהליך הדמוקרטי
על רקע החשש הגובר של המשטרה לקראת הבחירות לכנסת מפני שימוש בבוטים, חשבונות מזויפים והפצת פייק ניוז, המשטרה מזהירה חברות טכנולוגיה כי עליהן לבצע "היערכות למניעת ניצול לרעה של מערכות אוטומציה ובוטים בתקופת מערכת הבחירות הארצית". זו הכותרת של המכתב ששיגר לאחרונה ראש אגף החקירות והמודיעין במשטרה ניצב בועז בלט לחברות טכנולוגיה, ובו ציין כי האגף - שתחתיו נמצאת חטיבת הסייבר - "מתכוון להגביר פיקוח ואכיפה לקראת מערכת הבחירות ובמהלכה, במטרה להבטיח מניעת עבירות וגילוין, בכל הנוגע לטוהר הבחירות ותקינות ההליך הדמוקרטי".
בלט ציין בפני חברות הטכנולוגיה כי פנייתו אליהן אינה עקב חשד כלשהו, ומטרתה העלאת מודעותן לנושא, פתיחת ערוץ שיתוף פעולה עם המשטרה והיערכות מוקדמת לצמצום סיכונים בתקופת הבחירות. הוא ציין ש"משטרת ישראל רואה בחברות הטכנולוגיה שותפות מרכזיות בהגנה על המרחב הדיגיטלי ועל אמון הציבור, ומעודדת התנהלות אחראית ומפוקחת בתקופת הבחירות". מסיבה זו ציין כי מצא לנכון "להאיר את עיניכם לפוטנציאל הטמון בשימוש לא חוקי במערכות טכנולוגיות: הן להפצת תוכן כוזב והן לדרכי הפצה לא חוקיות, היוצרות מצגי שווא באשר למקור המידע או לאמיתותו".
במכתבו בלט ציין "סימנים מחשידים" שעל הפלטפורמות הטכנולוגיות והחברות השונות בתחום לשים לב אליהם, וסיפק כמה המלצות להיערכות, "על מנת להימנע מלשתף פעולה עם בקשות, שעלולות להגיע אליכם ויש בהן משום עבירה פלילית, תוך שימוש בחברתכם ככלי להפעלת מערכות אוטומציה, בוטים וחשבונות מרובים, המאפשר הפצה מהירה ומתואמת של תכנים בהיקפים גדולים להפצת מידע כוזב, יצירת מצגי תמיכה מלאכותיים, התחזות והסתרת זהות הגורמים הפועלים".
הוא הזכיר כי "סיוע בהסתרת זהות, עקיפת מגבלות או המשך מתן שירות לאחר שהתעורר חשד ממשי – עשויים להקים אחריות משפטית לחברה בהתאם לנסיבות. כך גם הימנעות מבירור חשד ממשי עשויה להילקח בחשבון בבחינת האחריות, מבלי לגרוע מהצורך בבדיקה פרטנית לפי דין".
כידוע, אחד החששות לקראת מערכת הבחירות הוא ניסיון, כפי שראינו בעבר לא מעט, להשתמש ברשתות של משתמשים פיקטיביים ובוטים לטובת קידום פוליטי או הפצת פייק ניוז, וזאת בשילוב ה"שחקן" החדש במערכת הבחירות הנוכחית – ה-AI. כאשר ברקע גם אזהרות שנשמעות מצד השב"כ וגורמים נוספים על חשש ממעורבות זרה, דוגמת איראן, וכאשר גם השחקנים המקומיים במערכת הפוליטית לא טומנים ידם בצלחת בתחום – כל הנושא הזה הוא קריטי לקראת מערכת הבחירות הקרובה.
בין השאר, במשטרה ובשב"כ, נערכים כדי לנטר פעילות של גופים עוינים ומדינות זרות שמנסים לבצע מבצעי תודעה במטרה להשפיע על הבחירות לכנסת. בדיון שנערך בסוף חודש יולי בוועדת המשנה של ועדת חוץ וביטחון, בהשתתפות יו"ר ועדת הבחירות המשנה לנשיא העליון השופט נעם סולברג, הזהיר למשל ראש השב"כ דוד זיני מפני ניסיון של מדינות זרות להשפיע על הבחירות, בעיקר באמצעות סייבר והפעלת בוטים ברשתות החברתיות.
גם המשטרה מזהירה מפני התופעה, ועל רקע זה היא פועלת גם בימים אלה ישירות מול חברות טכנולוגיה, שלחה להן מכתבים ומתכוונת לקיים איתן מפגשים בנושא. במכתבו אליהן של ניצב בלט הוא כתב כי "מערכת הבחירות צפויה לטמון בחובה אתגרים טכנולוגיים ואחרים, שעמם לא התמודדנו בעבר. בכל הנוגע לאפשרות לביצוע עבירות פליליות, שיגרמו לפגיעה בתקינות הליכי הבחירות, ובטוהר הבחירות, ואגב כך גם באמון הציבור בהליך הדמוקרטי. משטרת ישראל נערכת להתמודדות זו".
במכתב צוינה גם רשימה של אותם סימנים מחשידים, שלפי אגף חקירות ומודיעין, יש להתייחס אליהם, ושחולקה לארבע קבוצות: הראשונה, התקשרויות או דפוסי שימוש שמתאפיינים בהפעלה מתואמת של מספר רב של חשבונות, זהויות או מספרי טלפון שנחזים להיות מה שאינם; יצירת תכנים, תגובות או פניות שנחזות להיות אמיתיות בהיקפים חריגים; והפצת מסרים פוליטיים הנחזים לבטא פעילות אנושית עצמאית, אף שמקורם במערך אוטומטי ומתואם.
הקבוצה השנייה של הסימנים כוללת שימוש בזהויות בדויות או בפרטים שאינם תואמים זהות של מזמין השירות, כאשר מתבקשת הסתרת זהותו של המזמין, מממן הפעילות או הנהנה ממנה, או כשהיא מתבצעת באמצעות מתווכים, חברות קש, גורמים מחוץ לישראל או שרשרת ספקים.
הקבוצה השלישית נוגעת לסימנים מחשידים בקשר לבקשות לשימוש במאגרי מידע אישיים, ברשימות מספרי טלפון או בנתוני משתמשים, כשמקורן אינו ברור. בנוסף צוינו התחזות לאדם, למועמד למפלגה, לרשות ציבורית או לאמצעי תקשורת, וכן כאשר מופץ מידע כוזב או מטעה בדבר מקום הצבעה, מועד הבחירות, אופן ההצבעה או זהות המשתתפים בהליך.
והקבוצה הרביעית של סימנים מתייחסת לניסיונות לעקוף מגבלות קצב, מנגנוני אימות, אמצעי אבטחה, כלי שימוש של פלטפורמות או מערכות שנועדו לזהות שימוש לא אותנטי, וכן שינויים חדים ולא מוסברים בהיקף הפעילות, מספר החשבונות, אזורי הפעילות, בתוכן המופץ או בזהות הגורמים המנהלים את ההתקשרות. בלט כתב כי "אין במאפיין בודד כדי ללמד בהכרח על פעילות אסורה. עם זאת, הצטברות של סימני אזהרה, סתירות בהסברי הלקוח, הימנעות ממסירת פרטים בסיסיים או המשך פעילות לאחר שהתעורר חשש ממשי באשר לתכליותה, דורשים בדיקה מוגברת ובמקרים המתאימים גם הגבלה, השעיה או הפסקה של השירות ודיווח, בהתאם לדין ולתנאי ההתקשרות". הוא כתב כי במקרים של חשש לפגיעה בטוהר הבחירות או לעבירות מחשב – יש לפנות למשטרה.
גורם במשטרה אומר לכלכליסט כי "חטיבת הסייבר במשטרה עובדת בשגרה מול כל חברות הטכנולוגיה והרשתות החברתיות בעולם, כמו כל משטרה בעולם המערבי, על מנת לאתר עבריינים שמבצעים פעולות ברשתות החברתיות בשגרה. כמובן בימי הבחירות יש יותר קשר מול החברות האלה והפלטפורמות השונות, כמו מטא, טוויטר ואחרות. התכלית היא לאתר את אותו עבריין שעושה שימוש באותה מדיה - בין אם היא בינלאומית או מקומית - על מנת להעמידו לדין".
לדברי הגורם, "ההיערכות של המשטרה לבחירות היא בשיתוף שאר הגורמים בארץ, כמו ועדת הבחירות המרכזית, פרקליטות הסייבר, משרד הביטחון ועוד - כי המשחק בעולם הסייבר הוא לא משחק פרטני, זו לא החקירה הקלאסית. מטרת העל היא להבטיח את טוהר הבחירות ואת הליך הבחירות התקין, ולכן יש שיתוף פעולה בין-זרועי הדוק ומסודר, ונערכים למירב התרחישים. כולם מבינים שבמערכת הבחירות הזו לצד כל הדברים הרגילים שנתקלים בהם תמיד במערכות בחירות - יש את האתגר של רשתות השפעה פסולות כולל שימוש בבינה מלאכותית, וזה יכול לגרום להטעיה, להשפעה בצורה לא תקינה ולא מודעת. רואים את זה גם בעולם וגם פה".
מסיבה זו, מסביר הגורם המשטרתי את התהליך שנעשה כיום מול חברות הטכנולוגיה: "נקטנו פה בצעד אקטיבי – קודם כל לראות לאיזה חברות יש פוטנציאל לשמש תשתית, כנראה שלא בידיעתן, לתהליך כזה שהוא לא תקין ולא הוגן וגובל במקרים מסוימים אולי בעבירות פליליות, והחלטנו להביא לידיעת אותן חברות את החשיבות לשים לב למה שיש ברשותן ולעשות בזה שימוש נאות ונכון. אנו לא רוצים להגיע למצב שיש תלונה ותיק וחקירה בתהליך השמרני, שיכול להיות מאוחר מדי, אלא הכוונה היא כמה שיותר לרתום אותן לפני כן. מטרת המסמך שנשלח אליהן לגרום להן להבין שאפשר להשתמש בשירותים שלהן לשימושים לא תקינים".
הגורם מוסיף כי "המכתב הנוכחי זה חלק מסל הכלים והתהליכים ביחס לנושא לקראת הבחירות, כמו שוועדת הבחירות הכניסה את חובת הסימון של תוכן שנוצר ב-AI. חשוב להיערך לכך והמסר הכי משמעותי הוא העלאת הערנות והרגישות של הציבור לקראת הבחירות בהקשר להשפעה ברשתות והבינה המלאכותית – להיות ביקורתיים לגבי מידע שקיבלתם, לעצור ולא למהר לשתף, לבדוק מה מקור הפרסום ולראות אם זה אכן מידע מהימן".
עוד הוא אומר כי "כגוף אכיפה, נושא חופש הביטוי לנגד עינינו ולכן כל הפעולות שאנו מבצעים או נבצע הן לפי הסמכות החוקית, גם אם המשמעות בחלק מהמקרים, זה לא לקבל מידע שניתן לנטר אותו".
