הרובוט שבטנק ינצח

הבשורה של פיטר סינגר מדכאת: הטכנולוגיה המתקדמת אמנם אמורה לשפר את חיינו, אפילו להציל אותנו, אבל יש סיכוי לא רע שבסוף היא תהרוג אותנו. וליתר דיוק - רובוטי הלחימה המשוכללים ביותר אמנם יצילו חיי חיילים בשדה הקרב, אבל יובילו אותנו למאה שיהיו בה הרבה יותר מלחמות. כן, אפילו יותר מבמאה רווית הדם שהסתיימה לפני עשור.

שם גם מתחיל הספר של סינגר (35). סבא שלו נהג לספר לו על קורותיו כחייל אמריקאי במלחמת העולם השנייה, והילד פיטר הקשיב בעניין - וגדל להיות אחד מחוקרי הביטחון המובילים בעולם. היום, אחרי ארבע שנים של מחקר מקיף על כניסתם של רובוטים לשדה הקרב והשינויים שהיא גוררת, ד”ר סינגר חושב שהאנושות עלולה להיקלע למלחמה גרועה עוד יותר מזו שהסתיימה לפני 65 שנה. בעולם שבו מנהיגים שולחים מכונות להכריע את הקרב, הוא כותב בספרו “Wired for War”, האצבע על ההדק קלה יותר ושיכרון הכוח גדול יותר. הטכנולוגיה לא הופכת אנשים לטובים יותר, הוא ממשיך, היא רק הופכת את חלקם לחזקים יותר - ואת כל השאר, באופן טבעי, לחלשים יותר. וזה מתכון בטוח לעתיד עגום.

סינגר. נתגעגע למלחמת העולם צילום: Denis Drenner

“יש היום טכנולוגיה שמאפשרת לבצע מהלכים מלחמתיים בלי להתחשב בשיקולים פוליטיים של טייס או חייל הרוג”, מסביר סינגר בראיון בלעדי ל”מוסף כלכליסט”. “זה לא דיון תיאורטי, אלא משהו שכבר מתרחש. תראה, למשל, את מה שקורה היום בפקיסטן. למלחמה בקוסובו, בסוף שנות התשעים, קראנו מלחמה, אף שמספר ההפצצות שם נאמד בכרבע ממספר ההפצצות שארצות הברית ביצעה בפקיסטן בשנתיים האחרונות. הפצצנו שם 150 פעם, אבל אנחנו לא קוראים לזה ‘מלחמת פקיסטן’. למה? כי כל ההפצצות נעשו על ידי מטוסים ללא טייס - כולם, לא היתה אחת על ידי טייס בשר ודם! - ולא היה דיון בקונגרס בנושא. כשמי שמפציץ הוא רובוט ולא חייל, אין דיון”.

מה שאני מפתח יהרוג את הנכד שלי, אבל זה מגניב

וכשאין דיון, משהו קורה למוסר. כשמקבלי החלטות פועלים בתוך דיון ציבורי רחב ועוסקים בכובד ראש בשאלה אם לצאת למלחמה, על הסיכונים והעלויות, ההצדקה למלחמה בדרך כלל מקבלת תוקף מוסרי חזק יותר. כשקל לצאת למלחמה, היא נהפכת בקלות למוסרית פחות: החלטה של קומץ מדינאים, חלקם תאבי כוח, מאחורי דלתות סגורות וללא כל ביקורת ציבורית היא החלטה שהתוקף המוסרי והדמוקרטי שלה מוטלים בספק. כבר היום, סבור סינגר, התקשורת האמריקאית ממשיכה את הקו של השלטון - בעוד שבעבר הצליחו כלי התקשורת למנוע פעולות צבאיות כשהציפו את העובדה שהן מסכנות חיילים, נדמה שכעת הפעולות פשוט יוצאות לדרך בלי שאיש בוחן אותן לעומק ומעלה שאלות לגביהן.

וזה לא הכל. סינגר מעלה, בקצב מסחרר, עוד ועוד בעיות שעליית הרובוטים יוצרת - מהעובדה שחוקי הלחימה הבינלאומיים לא יודעים להתמודד עם אחריותו המשפטית של רובוט ועד “פורנוזציה של המלחמה” והשלכותיה. כשתיעודי הקרבות מגיעים לטלוויזיה ובעיקר לאינטרנט, צומחת סביבם תרבות צפייה שמתייחסת לזוועה כאל סרט קולנוע או משחק מחשב, ומוחקת לגמרי את ההזדהות של הצופים עם הקורבנות האנושיים שבקצה האש הרובוטית.

לרובוטים האלה אחראים אנשים שאינם עוסקים בהשלכות הלא טכניות של העניין. סינגר כתב על מדען צעיר שעובד באחת ממערכות הפיתוח, ואמר לו: “אני יודע שמה שאני מפתח יהרוג את הנכד שלי, אבל זה מגניב”. “זו הגישה של חלק מהמדענים”, מאשר סינגר. “הרעיון עצמו של הפיכת המלחמה לרובוטית הוא מדהים, הטכנולוגיה מגניבה והחוויות שהמדענים האלה עוברים מרגשות. הרובוטים עושים דברים מדהימים, אבל השאלה היא למה אנחנו מביאים אותם לעשות את אותם דברים, ויש לכך תשובה פשוטה - אנחנו רוצים להיות טובים יותר בלהרוג זה את זה”.

רובוט לפינוי מוקשים

סינגר עוצר לרגע את שטף דיבורו השקט, וממשיך: “ויש משמעות עמוקה להליך הזה. המשמעות היא שאנחנו, בני האדם - אותם בני אדם שהביאו לעולם יצירות ספרותיות ומוזיקליות יפהפיות, אותם בני אדם שיצרו טכנולוגיות מדהימות שלקחו אותנו לחלל - יצרנו עכשיו מין חדש, ועל זה מסכימים כולם, גם אנשי המדע הבדיוני וגם המדענים. ואנחנו עושים את זה מסיבה פשוטה - כדי להרוג טוב יותר. זו המסקנה העיקרית של הספר. גדלתי על מדע בדיוני וראיתי במחקר שלי תופעות מדהימות של רובוטים שהצילו אנשים - המכונות האלה חסכו אלפי חיים - אבל בסופו של דבר אתה לא יכול שלא להיות מאוכזב מכך שהטכנולוגיה הזו נולדה כדי להרוג. זה עגום, אבל זה העולם”.

מעריץ את הטכנולוגיה, מבקר את מי שמשתמש בה

“Wired for War” הוא מסמך מדהים בן 439 עמודים, שנבחר על ידי “פייננשל טיימס” לספר העיון הטוב של 2009 והכניס את סינגר (החותם כ־PW Singer) לרשימת ההוגים המשפיעים של אותה שנה על פי כתב העת היוקרתי “Foreign Policy”, לצד דמויות כמו ברק אובמה ובן ברננקי. סינגר נהפך לפרשן מבוקש ואף וליועץ לצבא ארצות הברית. במילים אחרות, באמריקה הבינו שסינגר הוא האיש שיודע איך ייראו המלחמות בשנים הבאות.

מטוס גלובל הוק בעבודה. פעולות פשוט יוצאות לדרך, בלי שאיש יעלה שאלות לגביהן צילום: בלומברג

הוא זכה למעמד הזה במידה רבה בגלל העמדה המורכבת שהספר מציע. חודשים ארוכים בילה סינגר עם אנשי צבא ומדע, ובחלק לא קטן מפרקי הספר הוא מתרשם עמוקות מהפיתוחים הטריים בתחום ומתאר את הדור הבא של רובוטי הקרב בפרטי פרטים וביראת כבוד של מעריץ נלהב. עם זאת, בפרקים אחרים הוא לא מהסס לתקוף את מקבלי ההחלטות, את חדוות המלחמה, את הטבע האנושי. באופן נדיר, הספר מדבר בשפתם של שוחרי הטכנולוגיה וחובבי המיליטריה המתקדמת, אבל גם בשפתם של פעילי זכויות האדם ומתנגדי המלחמה.

והוא בעיקר עשיר ומנומק מאוד. יש בו ראיונות עם עשרות קצינים בכירים, פקידים במשרד ההגנה, חברי קונגרס, משפטנים ופילוסופים, מדענים וסופרי מדע בדיוני - ראיונות שיוצרים מארג מדויק של ההווה והעתיד של הלוחמה הרובוטית וההשלכות האתיות, הפוליטיות והמשפטיות שלה. אם למישהו היה ספק בדבר הרלבנטיות של הדיון, סינגר מוכיח היטב כמה מסיבית הכניסה של אינטליגנציה מלאכותית לצבא.

כך, בעת הפלישה לעיראק, במרץ 2003, בכל צבא ארצות הברית לא היה אפילו רכב אחד המבוסס על מערכות רובוטיות. כיום יש יותר מ־12 אלף כאלה. מספר המטוסים ללא טייס עומד כיום על כ־7,000, רבים מהם משמשים כמפציצים בגבול פקיסטן־אפגניסטן. וזה שינוי שקרה בתוך פחות מעשור; קולונל אמריקאי שראיין סינגר העריך כי במלחמה הבאה ארצות הברית כבר תפעיל כמה עשרות אלפי כלי טיס ללא טייס.

גלובל הוק, מטוס מודיעיני ללא טייס ב-35 מיליון דולר. "במלחמה, גם כשבני אדם חושבים שהם מקבלים החלטה, הם לא" צילום: בלומברג

יש אין ספור נתונים כאלה. בשיחה איתו, ממשרדו במכון ברוקינגס בוושינגטון, סינגר זורק רק דוגמה אחת: “בוא נסתכל על שעות טיסה של ה־Predator (אחד המל”טים הראשונים שפותחו בארצות הברית), רק עליו. הראשונים שהשתמשו במטוס הזה היו ה־CIA, ב־1995. ב־12 השנים הראשונות, עד יוני 2007, היו 250 אלף שעות טיסה שלו. פחות משנתיים אחר כך, בפברואר 2009, המספר הוכפל ל־500 אלף שעות טיסה, ובאפריל 2010 הוא כבר הגיע למיליון שעות טיסה. זהו גידול אקספוננציאלי, וזו רק דוגמה אחת שמציירת את הגידול האדיר. אני צופה שהמספרים ימשיכו לצמוח בקצב כזה”.

ענף שצומח בקצב מסחרר, עם עשרות מיליארדי דולרים בשנה

הכיבוש הרובוטי המהיר הזה מחזיק גם תעשייה אדירה, ומבטיח פריחה ממושכת של חברות הטכנלוגיה הביטחונית. “פעם לא היו חוזרים אליי כשהייתי מתקשר לפנטגון”, סיפר לסינגר מנכ”ל של אחת החברות הללו. “היום אומרים לי ‘תמשיך לייצר כמה שיותר מהר’”. סינגר מעריך כי התעשייה מגלגלת כעת עשרות מיליארד דולרים בשנה, ומוסיף כי “זהו התחום הצומח ביותר בתעשיית הביטחון בשנים האחרונות, ללא ספק”. שוק המטוסים ללא טייס הוא דוגמה מצוינת לכך: לפי חברת הייעוץ האמריקאית Teal, שחוקרת את תעשיית האווירונאוטיקה, היקף מכירות המל”טים עומד היום על 5מיליארד דולר בשנה, ובעוד עשור יטפס ל־11.5 מיליארד בשנה.

בפריחה הזו, מהנדסים מצטיינים נחטפים לחברות הביטחוניות במשכורות עתק, נותנים דרור לדמיון שגדל על מדע בדיוני - ומנפחים את קופות המעסיק. הם כל הזמן מייצרים רובוטים חכמים יותר, מהירים יותר, יעילים יותר, מפתיעים יותר. גלובל־הוק, למשל, הוא מטוס מודיעיני ללא טייס שנראה כמו הכלאה בין לווייתן לנחש, עולה 35 מיליון דולר ותורם משמעותית להכנסותיה של ענקית הביטחון נורת’רופ גרומן, שבשנה שעברה הסתכמו בלא פחות

מ־33 מיליארד דולר. חברת איי רובוטס, מצדה, מתגאה ב־PackBot, רובוט בצורת חרגול שמנטרל פצצות. לפי ההערכות, כ־2,000 רובוטים כאלה משמשים את ארצות הברית בעיראק ובאפגניסטן. העובדה שמחירו של כל רובוט הוא 120 אלף דולר בהחלט יכולה להסביר כיצד בשלוש השנים האחרונות המחזור של החברה צמח ב־50%, ועומד כיום על כ־300 מיליון דולר. חברת פוסטר מילר מכרה עד כה 3,000 רובוטי Talon, מערכת שנראית כמו נגמ”ש קטן עם טפרים של נשר שעליהם מותקנות מצלמות, בכ־200 אלף דולר ליחידה. עכשיו היא מוכרת את Maars, גרסה מתקדמת של אותו כלי שמצויד גם במקלעים. ואם לא די בחיות הטרף הרובוטית האלו, בוסטון דינמיקס מוכרת את BigDog, יצור מפחיד שנראה כמו פרד ללא ראש, שוקל 110 ק”ג, מסוגל לנווט לבד ובעיקר יכול לסחוב 150 ק”ג ציוד.

BigDog. מנווט לבד וסוחב 150 ק"ד ציוד

ארצות הברית, ביתו של סינגר, היא היצרנית המובילה בעולם של מכונות מלחמה שכאלו. אבל היא בהחלט לא היחידה. ישראל היא כמובן אחת החלוצות בתחום - כבר אחרי מלחמת יום כיפור פיתחו כאן מזל”טים, ובשנות השמונים נרשם שיתוף פעולה הדוק לפיתוח רובוטים עם ארצות הברית - וכך גם ברית המועצות (שסיפקה מזל”טים לסורים במלחמת לבנון הראשונה). לצדן, סינגר מונה לא פחות מ־43 מדינות - כמעט רבע ממדינות העולם - שהחלו בעשור האחרון להטמיע רובוטים בצבאות שלהן. אפשר למצוא ברשימה את בריטניה, צרפת וגרמניה, את איראן, וגם את סין, פקיסטן, סינגפור ודרום קוריאה, מהמדינות המתפתחות בתחום. מאז 2006, למשל, מפטרלים כאלף רובוטים לאורך הגבול שלה עם צפון קוריאה. ובהקשר הזה מזכיר סינגר כי במדינות המזרח תמיד העריצו רובוטים, להבדיל מהיחס החשדני שלו הם זכו בדרך כלל בתרבות המערב.

התהליך המהיר הזה, אומר סינגר, רק יואץ - וישנה את פני צבאות העולם. “חיילים כבר לא יעלו על מטוס או יילחמו בשדה הקרב, אלא ייסעו מדי יום למשרד ויפקחו על עבודתם של רובוטים”, הוא אומר. “כבר עתה יש עלייה אדירה בשימוש ברובוטים, והחברות המסחריות ממוקדות היום בפיתוח רובוטים ולא בפיתוח מערכות לבני אדם”.

זה לא ייבלם אם ארצות הברית תקצץ בתקציב הביטחון, כפי ששר ההגנה רוברט גייטס מבטיח לעשות?

“ראשית, אני לא בטוח שיהיה קיצוץ, אבל גם אם תהיה ירידה בתקציב הביטחון זה ישפיע על ההשקעות בציוד צבאי שמופעל בידי אדם, ולא על הרובוטים. תקציב הביטחון הוקפא בשנים האחרונות, ואף שהממשל לא חושף את המספרים המדויקים, אני יכול לומר שהחלק היחסי של השקעות ברובוטיקה רק גדל. הרובוטים הם העתיד, לא רק במלחמה, אלא בחיים בכלל, וזו הסיבה שאתה רואה השקעות מסיביות בתחום. הרובוטים כאן כדי להישאר, הן בתחום הצבאי והן בתחום האזרחי”.

המחשב מחליט טוב מאיתנו, אנחנו נהיים לא רלבנטיים

אפשר להאמין לו. לסינגר יש חוש תזמון מעולה. הוא יודע לשים את האצבע על מגמות ותופעות בדיוק ברגע הנכון, ולנתח אותן בחדות. הוא עשה את זה כבר בשני הספרים הקודמים שלו - “Corporate Warriors”, שיצא ב־2003 ומיפה את הענף המשגשג של חברות הביטחון הפרטיות בארצות הברית של אחרי 11/9; ו”Children at War” (2005), שחשף את השימוש הגובר בילדים־לוחמים. שני הספרים עוררו רעש גדול, כפי שעושה כעת “Wired for War”, והפכו את סינגר לכוכב בתחומו. והוא מצליח למנף את ההצלחה בכל תחום - בין השאר פרסם עד כה כ־150 מאמרים בעיתונות, השתתף בפיתוח משחק וידיאו פופולרי, עבד עם מפיקי סדרות מובילות, ובהן “24” ו”הבית הלבן”, ונהפך למרואיין מבוקש בתוכניות האירוח. הוא אמנם מחייך וצועד כמו רובוט, אבל הוא מדבר וכותב כמו יצרן פאנצ’ים מנוסה.

הוא מרבה להשתמש, למשל, באסוציאציית המדע הבדיוני - דווקא כדי להבהיר שלא מדובר במדע בדיוני. “תפקידו של האדם בשדה הלחימה נגמר. הגיע תורם של הרובוטים”, הוא כותב בהקדמה לספר. “אם זה נשמע לכם כמו מדע בדיוני, רק תזכרו שכל דבר נשמע, בנקודת זמן מסוימת, כמדע בדיוני - בין אם מדובר במחשבה על מכונה שתעוף בשמים ובין אם מדובר באפשרות לנהל שיחה עם אדם בצד השני של העולם”. סינגר אמנם מעריך כי בעשור הקרוב הלוחמים והטייסים לא ייעלמו משדה הקרב, אבל ככל שיחלוף הזמן הרובוטים ייהפכו למהירים יותר וחכמים יותר. המשמעות של זה היא אחת, כפי שסינגר וקצינים בכירים מאוד בצבא האמריקאי כבר עמדו עליה: בעתיד הנראה לעין, בני אדם ייהפכו ליצורים אטיים ולא רלבנטיים, לפחות לעומת רובוטים.

ובני האדם, הוא אומר, יצטרכו להתרגל למעמדם החדש. “בוא נסתכל לרגע על הכלכלה העולמית. היום יותר מ־50% מהכסף בבורסות העולם נסחר על ידי אינטליגנציה מלאכותית ולא בידי בני אדם. התוכנות האלה פועלות במהירות ששום בן אנוש לא יכול לעמוד בה. ואותו דבר קורה במלחמה. אפילו כשבני אדם חושבים שהם מקבלים החלטה, הם לא. למשל, מערכת הפטריוט מתוכננת לזהות טיל ולהגיב. לאדם יש שנייה וחצי להחליט אם הוא מטיל וטו על היירוט, אבל בני אדם לא יכולים להחליט בתוך שנייה וחצי. כבר טבועה בנו האמונה שהמחשב יודע להחליט טוב מאיתנו - התופעה הזו כבר קיימת היום אצל מקבלי ההחלטות, והיא תלך ותתחזק בקרב הציבור. ביל גייטס אמר בשנה שעברה שהרובוטים נמצאים היום היכן שהיו המחשבים ב־1980. תחשוב כמה התפתחו המחשבים מאז 1980...”.