האיום החדש: ה־AI כבר פורצת למחשבים, כעת היא עלולה לפתח נשק ביולוגי
נקודות עיקריות.כלכליסט AI
- גובר החשש בקרב מומחים וחברות טכנולוגיה כי מודלים מתקדמים של בינה מלאכותית ישמשו גורמים עוינים לפיתוח נשק ביולוגי והנדוס מחוללי מחלות מסוכנים.
- חברות הענק דוגמת אנתרופיק וגוגל מפתחות מודלים דואליים המיועדים למחקר רפואי, אך מודות כי אותן יכולות עלולות לשמש גם למטרות זדוניות תוך עקיפת מנגנוני ההגנה הקיימים.
- מומחים מתריעים כי הקהילה המדעית והממשלות אינן ערוכות להתמודד עם פריצות דרך ביולוגיות של בינה מלאכותית, במיוחד לאור פיתוח מודלים פתוחים במדינות כמו סין שאינם כפופים לבקרות מחמירות.
הזינוק ביכולות הסייבר של הבינה המלאכותית היה רק ההתחלה. בעוד חברות ה־AI הגדולות משקיעות בפיתוח מודלים שיסייעו למחקר ביולוגי ורפואי, גובר החשש שהטכנולוגיה תפתח גם בפני גורמים עוינים יכולות שהיו עד כה נחלתן של מעבדות מתקדמות ומדינות.
ביולי, OpenAI הדהימה והחרידה את העולם כשהודיעה שמודלי AI מתקדמים שבחנה ברחו מסביבת הבדיקה שלהם ופרצו למערכות המחשוב של פלטפורמת ה־AI האגינג פייס (Hugging Face). היה זה רגע שהבהיר עד כמה מהר התקדמו יכולות הסייבר של מודלי AI, ואת היקף חוסר המוכנות של סביבות המחשוב שלנו להתמודדות עם יכולות אלו.
בעקבות אותו אירוע, יותר מ־150 חברות מובילות בתחומי טק, AI, פיננסים ועוד קראו לארגונים וממשלות לבצע מהלכים מהירים ומשמעותיים על מנת להכין את העולם למודלי AI עם יכולות סייבר מתקדמות. אבל בתוך חברות ה־AI הגדולות עצמן, ובקרב מומחים בתחום, יש מי שמסתכל קדימה, על האיום הגדול הבא, שכנראה קרוב הרבה יותר ממה שאנו חושבים: מודלים עם יכולות ביולוגיות מתקדמות.
איום זה קיבל בסוף השבוע משנה תוקף, לאחר שאנתרופיק הודיעה שזיהתה ושיבשה כמה ניסיונות של מדענים לפתח נשק ביולוגי עם קלוד. לדברי החברה, אין ביכולתה לקבוע האם מדובר במחקר למטרות לגיטימיות או זדוניות, מכיוון שחקירה ביולוגית מסוג זה יכולה להוביל לפריצות דרך כמו חיסונים חדשים, אבל גם להנדוס מחוללי מחלות מסוכנים.
אם חשבתם שמודלי AI שיכולים לתקוף ולשתק תשתיות קריטיות כמו רשתות חשמל ומים או בתי חולים הם דבר מפחיד, אתם לא רוצים לדעת מה יקרה עם מודלים שיכולים לשמש לייצור נגיפים או כלי נשק ביולוגיים חדשים.
1 צפייה בגלריה
דאריו אמודיי, מנכ”ל אנתרופיק. החברה זיהתה ניסיונות לפתח נשק ביולוגי באמצעות קלוד
(צילום: בלומברג)
חברות ה־AI המובילות — OpenAI, אנתרופיק ודיפמיינד של גוגל — כולן מפתחות מודלים בעלי יכולות ביולוגיות וכימיות, שהן מקוות שישמשו למחקרים מועילים כמו גילוי תרופות חדשות, ריפוי מחלות ומניעת מגפות. אבל הן גם מודעות היטב לכך שהמודלים יכולים לשמש למטרות זדוניות, והגבירו את העבודה על מנגנוני הגנה כמו הערכת סיכונים ביולוגיים ובקרות גישה ושימוש.
"כמעט כל מה שקורה בתחום הכימי־ביולוגי הוא דואלי", אמרה ל”פייננשל טיימס” דון בלוקסוויץ', מנהלת צוות שחוקר שימושים חשודים במודלים של דיפמיינד. "המידע שמשמש ליצירת נשק ביולוגי יכול לשמש גם ליצירת נוגדן או חיסון. אם אנחנו רוצים לשפר את הבריאות, יש אפשרות שנראה שימוש זדוני בדברים האלו".
מומחים כבר מזהירים מכך שמה שהתרחש בחודשים האחרונים בסייבר — הגעה של מודלים עם יכולות סייבר עוצמתיות כמו מיתוס של אנתרופיק ומודלים שפורצים בהצלחה לשירותים על דעת עצמם — יחזור על עצמו בקרוב בתחום הביו.
"אנחנו צופים שיתרחש רגע 'מיתוס' של AI וביו, וייתכן שלאחריו עוד אירוע משבש ברמת הפריצה להאגינג פייס, או תקרית נשק ביולוגי אמיתית בשנה הבאה", התריע ג'ייסון האוסנלוי, מנהל המדיניות ב־Center for AI Safety. לדבריו, ארגוני טרור, מדינות או אפילו תוקפים עצמאיים יוכלו להשתמש ב־AI על מנת לתכנן נשק ביולוגי, ליצור נגיפים או לפרוס פתוגנים קיימים.
ב־1995, הכת היפנית אום שינריקיו רצחה 13 אנשים לאחר ששחררה את גז העצבים סארין בשלושה קווי רכבת תחתית בטוקיו. מומחים חוששים ש־AI תוריד את החסמים בפני ביצוע מתקפות דומות. חששות אלו מתגברים לאור ראיות שארגוני טרור ומדינות סוררות כבר עושים שימוש ב־AI למטרות עוינות. לפי מחקר של אוניברסיטת קיימברידג' שפורסם ביולי, ארגון הטרור בוקו חראם השתמש במודלים של OpenAI, אנתרופיק, גוגל, ספייסX ודיפסיק כדי לנהל קרבות קינטיים ולתכנן מתקני נפץ.
מנגנוני ההגנה של המודלים אמורים למנוע שימושים מסוג זה, באמצעות חסימת מענה לשאילתות חשודות או הצגת תשובות בטוחות בלבד. ואולם, המנגנונים אינם מושלמים ונתונים לתמרונים. וכמו שבוקו חראם הצליח לבצע שימושים עוינים במודלים כיום, כך יש חשש שהם יצליחו לעקוף את מנגנוני ההגנה של מודלים עם יכולות ביולוגיות.
לתמונה מורכבת זו מצטרפת העובדה שבניגוד לסייבר, הרבה יותר קשה להעריך את המסוכנות של מודלים עם יכולות ביולוגיות. "קל לזהות זינוק ביכולות סייבר", אמר ל”פייננשל טיימס” יאספר גוטניק, מנהל מחקר ה־AI בחברת SecureBio. "בביולוגיה, קבוצות AI יצטרכו לבצע ניסויי מעבדה אמיתיים, יקרים ואיטיים, על מנת להעריך את יכולות המודל".
סטף גוארה, מנהלת תחום AI־ביו במכון המדיניות ראנד, אמרה: "רוב האנשים יסכימו שזה רע ש־AI יכולה לסייע למישהו ליצור נגיף שפעת במעבדה, ואפילו גרוע יותר אם AI יכולה לסייע להם ליצור נגיף שפעת חדש. אבל בגלל שיקולי בטיחות זה כמעט בלתי אפשרי לערוך מחקר שמראה ש־AI יכולה לעשות את זה. אי אפשר לבחון ביולוגיה מקצה־אל־קצה כי אי אפשר לבחון בנייה של נשק ביולוגי".
"המידע שמשמש ליצירת נשק ביולוגי יכול לשמש גם ליצירת נוגדן או חיסון. אם אנחנו רוצים לשפר את הבריאות, יש אפשרות שנראה שימוש זדוני בדברים האלו"
חברות ה־AI תומכות בהמשך פיתוח מודלים עם יכולות ביולוגיות, כשהן מציינות את היתרונות העצומים שיהיו לאנושות מתרופות וטיפולים חדשניים למחלות. עם הסכנות, הן טוענות, ניתן להתמודד באמצעות מנגנוני הגנה.
"בחברות פארמה, אנשים מטפלים בחומרים ביולוגיים מסוכנים כל הזמן", אמר ביוני מייסד ומנכ"ל אנתרופיק דריו אמודיי. "יש להם פרוטוקולים בשביל זה, ואנחנו יכולים לעשות שימוש בפרוטוקולים האלו". OpenAI טוענת שהיא מאמנת את המודלים שלה לטפל בצורה בטוחה בבקשות ביולוגיות בעלות היבטים דואליים.
אבל פרופ' דיוויד רלמן, אימונולוג ומיקרוביולוג באוניברסיטת סטנפורד, תהה האם ייתכן שהסכנה האפשרית עולה על התועלות הצפויות. "כל מה שדרוש זו פאשלה אחת, ובתוך שנייה נרסק כל אמון ציבורי שנותר במדע, ברפואה ובהבטחות הטכנולוגיה, באופן שייקח שנים לשקם", אמר. "גם אם נאמץ באופן מלא את ההטבות האפשריות, אנחנו חייבים להתקדם בחוכמה ובזהירות". נכון לעכשיו, הוא הוסיף והתריע, מקבלי החלטות והקהילה המדעית "לא ערוכים" לאיומים שנשקפים ממודלים בעלי יכולות ביולוגיות.
איום זה מתחזק עוד יותר בהתחשב בכך שלא כל המודלים המתקדמים מיוצרים ונשלטים על ידי חברות מערביות. מודלים סיניים, שהפער שלהם ממודלים מערביים קטן במהירות, משלבים פחות מנגנוני הגנה וממילא מדובר במודלים פתוחים שניתן להריץ על מערכות מחשוב מקומיות, ללא כל מנגנוני הגנה. אם מודלים מערביים יגיעו לסף מסוכן של יכולות ביולוגיות, המודלים הסיניים יגיעו לשם חודשים, אולי אפילו רק שבועות, מאוחר יותר. ואם זה יקרה, לא תהיה שום דרך אפקטיבית לעצור שימוש לרעה בהם.
