שימו לב, אתר זה עושה שימוש בעוגיות על מנת להבטיח לך את חוויית הגלישה הטובה ביותר. קראו עוד הבנתי
דו"ח טכנולוגי

רק מילאתי שורת פקודה: מי יואשם בפשעי הרוצח הרובוטי?

האו"ם ינסה לקבוע מי יהיה אחראי לפשעי מלחמה שיבצעו אמצעי לחימה אוטונומיים, רגולטור גרמני יוצא למתקפה נואשת נגד גוגל, אדוארד סנודן שוב מביך את ארצות הברית ואיך גרם האקר בן 16 לימ"מ הקנדי לתקוף אנשים

יוסי גורביץ 13:2513.05.14
אבל רק לחצתי על כפתור!

 

האו"ם, שעורך בימים אלה דיונים על השימוש בכלי נשק קונבנציונליים - אחרי שמישהו הגיע למסקנה שגם השימוש בהם חופשי מדי - צפוי לדון גם ברובוטי הרג. הכוונה אינה למל"טים המפורסמים שמדללים את אוכלוסיית אפגניסטן; מאחורי אלה נמצאת אצבע אנושית שלוחצת על כפתור. השאלה היא מה יקרה כשיופיעו כלי הרג שמחליטים להרוג בעצמם.

 

בדרום קוריאה, שסובלת ממחסור בכוח אדם מול ההמונים המגויסים של צפון קוריאה, כבר החלו ניסויים ברובוטים שאמורים לבצע חלק מהפטרולים בקו הגבול הארוך מדי. כשיקרה משהו, הנחת היסוד היא שלרובוט לא יהיה זמן להתקשר למפקד והוא יצטרך לקבל החלטות בעצמו.

 

 

למי ששכח, אזכיר שהחבר הצמוד של כל מלחמה הוא פשע המלחמה - אין אחת שנקיה מכאלה, עוד תוצאה מצערת של הסרת החסמים החברתיים שאוסרים על רצח. הבעיה העיקרית היא שבני אדם מודעים למה שמותר ואסור להם, ומבחינת רובוטים יש לכל היותר שורות קוד. וכולנו יודעים שבשביל לדפוק משהו באמת, צריך קודם כל מחשב. השאלה היא מה קורה כשרובוט מלחמה מרסס משפחה מבוהלת בקליעים: מי אחראי, הרובוט? הוא חתיכת מתכת ולא מודע לעצמו (כך, על כל פנים, אנחנו מקווים). זו המקבילה של העמדה לדין של בעל חיים. דברים כאלה כבר קרו, כמובן, אבל לא בתקופה שאנחנו רוצים לחזור אליה.

 

אז מי אחראי? המפקד? הוא תמיד יוכל לטעון, לעתים קרובות בצדק מוחלט, שהוא בכלל לא רצה בטבח הזה ולא העלה אותו על דעתו. הוא שלח את הרובוט מנקודה א' לנקודה ב' עם הנחיות להשמיד כוחות אויב - פקודה חוקית למשעי. איך הוא יכול היה לדעת שהגרוטאה תחליט ששני ילדים ואמא בבניין מופצץ למחצה הם אויב?

 

"רובוט קרב" מאויש. בעתיד הקרוב, יהיו אוטונומיים לחלוטין "רובוט קרב" מאויש. בעתיד הקרוב, יהיו אוטונומיים לחלוטין צילום: איי אף פי

 

הלאה. המתכנת? הופה. בהנחה שהוא לא כתב קוד שהמטרה המובהקת שלו היא פשע מלחמה, המקסימום שאפשר יהיה להאשים אותו יהיה ברשלנות. ואם יש לנו בעיה להרשיע פושעי מלחמה כשהפקודות שלהם מגיעות בשפה אנושית, איך לעזאזל נרשיע אותם כשהפקודות יהיו בשפת מכונה?

 

יתר על כן, הרובוטים כרגע כלל לא ערוכים להבין את חוקי המשפט הבינלאומי ודיני המלחמה. זו אחת הסיבות שצבאות מערביים נרתעים מבניה של רובוטים עצמאיים. האו"ם ידון בנושא ויגיש דו"ח בנובמבר. עד אז, יצטרך המין האנושי להאשים את עצמו בפשעים שלו. ובינתיים, במחשכים, הופכים גם הרובוטים האוטונומיים למחצה לחכמים יותר ויותר: יצרניות הנשק רוצות להציג מל"טים שחוסכים כמה שיותר עבודה מהמפעיל וכלים שכאלה כבר מעופפים להם ברחבי העולם.

 

הקוץ שבאצבע של גוגל 

 

בפינה השמאלית: התמנון העליז, חברת איסוף המידע והפרסום גוגל, אלופת העולם הבלתי מעורערת בהתחמקות מעונשים במשקל כבד, שרק לאחרונה חמקה מלשלם מחיר אמיתי על קנוניה נגד עובדיה; בפינה הימנית, ד"ר יוהנס קספר, אחראי ההגנה על פרטיות של מדינת המבורג שבגרמניה. חברים, זה לא כוחות.

 

קספר כבר מכיר את גוגל היטב. ב-2010, חקירה של קספר היא זו שחשפה את העובדה שמכוניות סטריט וויו של גוגל ליקטו מידע (מיילים, צ'ט וכו') מרשתות WiFi פתוחות במקומות שבהן נעו. גוגל עשתה כמיטב יכולתה להתחמק מעונש על המעילה הפראית הזו באמון - וגם הצליחה.

 

עכשיו קספר חוזר לסיבוב נוסף. על הכוונת: ההחלטה של גוגל מלפני שנתיים לשלב את כל המידע שיש לה על המשתמש וליצור לו כרטיס אחד. קספר ציין שעל ידי המעשה הזה, גוגל יוצרת פרופיל עומק של המשתמש, ושזה מנוגד לחוק הגרמני. "גוגל חייבת לכבד את זכותם של המשתמשים להגדרה עצמית", הודיע קספר, והזהיר שאם גוגל לא תשנה את מדיניותה, היא צפויה לקנסות.

 

הצחקתם אותו. לארי פייג' הצחקתם אותו. לארי פייג' צילום: בלומברג

 

את הצחוק של לארי פייג' אפשר היה לשמוע עד המבורג. הקנס הקודם שהשית קספר על החברה, בפרשת סטריט וויו, היה 145 אלף יורו. הקנס הגדול ביותר שהיא שילמה עד כה היה מיליון יורו. ההכנסות של גוגל ברבעון האחרון היו 15.4 מיליארד דולר. גם אם קספר יעלה את הקנס שלו פי מאה, זה לא יזיז לגוגל.

 

הרגולטורים צריכים שיניים חדות יותר, אחרת שום דבר לא ימנע מגוגל ודומיה לעבור על החוק בכל פעם שיתחשק לה. גם במקרה בו החברה תיתפס בהפרת החוק, עוכרי הדין שלה יוודאו שיחלפו שנים עד שיקרה משהו ובסוף היא תשלם קצת בוטנים - תוך שהיא דורשת כחלק מהעסקה שהיא לא תדרש לקבל שום אחריות. זה לא יכול להמשך ככה.  

 

אופס, יצאנו צבועים

 

במשך שנים, מנהל הממסד הבטחוני של ארה"ב מלחמת חורמה נגד חברות החומרה הסיניות, בדגש על חואווי ו-ZTE, כשהוא טוען ששתי החברות הללו עובדות צמוד עם המודיעין הסיני - ושחומרה שהן שולחות למערב מגיעות עם פרצות מובנות. טענה סבירה לגמרי; חברות סיניות לא פועלות במבנה המערבי המקובל וההחלטות האמיתיות בהן מתקבלות על ידי תא המפלגה הפנימי של החברה.

 

הלחץ הזה היה כה כבד, עד שלפני כחצי שנה הודיע מנכ"ל חואווי, רן שנגפיי, שחואווי מפסיקה לעבוד בארה"ב - ונימק את ההחלטה בחוסר רצון בכך שפעילותה של החברה תהפוך לאבן נגף ביחסי שתי המדינות. "זה לא שווה את זה", אמר.

 

דו"ח חקירת הקונגרס האמריקאי נגד חואווי ו-ZTE דו"ח חקירת הקונגרס האמריקאי נגד חואווי ו-ZTE צילום: איי אף פי

 

אלא שעכשיו נחשף (באדיבות מדליף העל אדוארד סנודן שליט"א) שהאמריקאים הם אלה שפורצים מראש מוצרים. ה-NSA פושטת דרך קבע על נתבים, שרתים וחומרה אחרת שנשלחת מארה"ב לחו"ל כדי להתקין בה דלתות אחוריות. המטרה שלה, כזכור, היא לאסוף את כל המידע בעולם.

 

אחרי שה-NSA אוספת את אריזת המוצר, היא פותחת אותה, מתקינה את מה שהיא מתקינה וסוגרת את החבילה מחדש, עם חותם החברה. גרינוולד מציין שלפאניקה שיצרה ארה"ב סביב המוצרים הסיניים היו שני מניעים: האחד, חשש אמיתי מריגול סיני; השני, חשש שרכישת ציוד סיני תדחוק לאחור ציוד אמריקאי - ובהתאם, תקשה על ה-NSA לרגל.

 

נסיון רצח על פי הזמנה

 

בן 16 נעצר לפני מספר ימים בטורונטו, בחשד לביצוע לא פחות מ-30 התקפות Swatting. יש הרבה צורות בזויות של ניצול לרעה של מחשב, מפישינג דרך השתלטות על מחשב כדי לסחוט קטינות, אבל Swatting כנראה לוקחת את הכתר. השיטה פשוטה למדי: משכנעים את כוחות המשטרה שבמקום מסוים מתבצע פשע איום ושעליהם לבצע עליו פשיטה צבאית-למחצה, על ידי כוחות ימ"מ (SWAT). מטבע הדברים, לא קורה שם שום דבר כזה והפשיטה מיועדת להטיל אימה ואולי גם לפצוע או להרוג את הקורבן.

 

ימ"מ מונחה האקר. שוטר יחידה מיוחדת בתרגיל ימ"מ מונחה האקר. שוטר יחידה מיוחדת בתרגיל צילום: אי פי איי

 

החשוד גבה כ-10,000 דולר לכל ביצוע שכזה, אותם גבה מפושעים שונים. קחו בחשבון שסוואטינג הוא לא כמו להתקשר למשטרה ולהגיד "יש מעבדת סמים ברחוב רוחמה 8"; המשטרה לא מקצה צוות ימ"מ לכל שטות וגם מנסה להימנע מפיצויים שתיאלץ לשלם במקרה של פשיטה שגויה. צריך להעביר למטה המשטרה מידע ממספר מקורות מקוונים מזויפים ברמה גבוהה מאוד, כי התוקף צריך להיות מתוחכם מספיק כדי לטשטש את עקבותיו.

 

הצעיר הקנדי נכשל בחלק הקריטי הזה ונתפס. ואם זה לא הספיק, המשטרה מצאה אצלו גם נשק ותחמושת. מעניין כמה פופולרי הוא יהיה בכלא.   

 

קצרצרים

 

1. זוכרים את תנועת הטרור המקוון אנונימוס? גם אני השתדלתי לשכוח. אבל מסתבר שהיא עדיין בסביבה. ההאקרים שלה מתכננים לפעול נגד אירוע שבו יציג גלן גרינוולד את ספרו החדש על פרשת ה-NSA. אנונימוס מתיימרים לייצג את "ה-14 מפייפאל", קבוצה של מחבלים מקוונים שתקפו בשעתו את אתר פייפאל כי זה לא סלק תשלומים לכת של ג'וליאן אסאנג'. איך זה קשור לגרינוולד? ובכן, האיש שמימן את האתר שבו כותב גרינוולד, פייר אומידיאר, עשה את הכסף שלו באיביי - שרכשה לפני 12 שנה את פייפאל. לא חסרים משוגעים שם בחוץ.  

 

פעילי אנונימוס בהפגנה פעילי אנונימוס בהפגנה צילום: cc by liryon

 

2. תשמור האלה ותציל: הצורה המטומטמת לכתיבה ברשת מגיעה עכשיו גם אל קורות החיים. חברה קיבלה קו"ח עם כמה אנימציות gif, הפניות לשני עמודי פינטרסט ותמונה מטוויטר של סיסמת מוטיבציה כתובה על לוח. המועמדת פתחה את המסמך ב"אמל"א (ארוך מדי, לא אקרא): אני מובטלת ואתם צריכים לשכור אותי".

  

3. אנחנו מתקרבים במהירות ליום השנה המאה של המלחמה שאמורה היתה לסיים את כל המלחמות, מלחמת העולם הכי ראשונה (טכנית, היא התחילה ב-28 ביולי 1914). המדינות האירופיות בקדחת הנצחה, ואתר בריטי רוצה לתעד את חייהם של שמונה מיליוני בני אדם ששירתו בצבאות בריטניה וחבר העמים שלה. הארכיון כבר מכיל את פרטיהם של יותר מארבעה וחצי מיליון איש, ביניהם 40,000 נשים, והוא פונה לציבור למסור לו כמה שיותר מידע - מתמונות ועד רישומים. "מהם פעמוני האשכבה לאלו המתים כבקר?" שר בשעתו ווילפרד אוון, "רק זעמם המפלצתי של התותחים, רק הדיבור המהיר, המגמגם, של הרובים, יוכלו לקשקש את מזמורי האשכבה החפוזים שלהם; אל נא לעג להם, לא תפילות, לא פעמונים; לא קול אשכבה, אלא המקהלות - המקהלות הצווחניות, המטורפות, של פגזים מייללים".

 

בטל שלח
    לכל התגובות
    x