מנכ"ל אנתרופיק מזהיר מהשלכות ה-AI וקורא לאנושות "להתעורר"
דריו אמודיי פרסם מאמר שבו הזהיר מהשלכות הטכנולוגיה על האנושות, ופירט את הסכנות הפוטנציאליות מהמשך הפיתוח בלי פיקוח. הן כוללות בין השאר אבדן משרות נרחב וטרור ביולוגי, זאת מכיוון שמערכות הבינה המלאכותית יהיו לדבריו "בעלות יכולות גדולות יותר מכל זוכה בפרס נובל, מחוקק או אשף טכנולוגיה"
דריו אמודיי, המייסד והמנכ"ל של חברת ה-AI אנתרופיק, מזהיר מהשלכות הטכנולוגיה על האנושות. במאמר של קרוב ל-20 אלף מילה שפרסם אתמול (ב'), קרא אמודיי לאנושות "להתעורר" ולהבין את הסיכונים הפוטנציאליים והקטסטרופליים שמציבות מערכות הבינה המלאכותית החזקות בשנים הקרובות. "האנושות עומדת לקבל לידיה כוח שכמעט קשה לדמיין, ולגמרי לא ברור אם המערכות החברתיות, הפוליטיות והטכנולוגיות שלנו בוגרות מספיק כדי להתמודד עם זה", כתב במאמר, שבו ניסה לפרט את הסיכונים שיצוצו אם הטכנולוגיה תפותח בלי השגחה, החל באובדן משרות ועד לטרור ביולוגי.
אמודיי אמנם אינו הראשון שמזהיר מהשלכות ה-AI, אך המאמר בולט במיוחד מכיוון שהוא עצמו נחשב לאחד היזמים החזקים בתעשייה. אנתרופיק היא המפתחת של הצ'טבוט קלוד. הוא פירט את הסיכונים שיתלוו לפיתוח מערכות "AI חזקות", אותן הגדיר כמערכות ש"יהיו בעלות יכולות גדולות יותר מכל זוכה בפרס נובל, מחוקק או אשף טכנולוגיה". לפי ההערכה של אמודיי, המצב הזה עשוי לקרות כבר בתוך "שנים ספורות". הסיכונים הללו כוללים את האפשרות שאנשים יפתחו נשק ביולוגי שבמקרה הפחות חמור יוכל להרוג מיליונים, ובתרחיש הגרוע ביותר יהרוס את כל החיים על פני כדור הארץ.
"אדם בודד ומעורער בנפשו יכול היום להתחיל לירות בבית ספר, אבל הוא ככל הנראה לא יכול לבנות נשק גרעיני או להפיץ מגפה... הוא ישודרג לרמת היכולת של דוקטור לווירוסים", הזהיר. סיכון נוסף שציין היה האפשרות שהבינה המלאכותית "תגבר על האנושות" או שתעצים רודנים, מה שיוביל ל"רודנות טוטליטרית עולמית".
אמודיי המשיך והזהיר מאבדן נרחב של משרות ו"ריכוז של כוח כלכלי" והון בעמק הסיליקון בשל ה-AI. "זוהי מלכודת: ה-AI כל כך חזקה, ונחשבת לפרס נוצץ כל כך, שקשה מאד לציוויליזציה האנושית להטיל הגבלות עליה", הוסיף. הגישה הזו של אמודיי מנוגדת למדיניות הממשל האמריקאי, שמאפשר יד חופשית כמעט בפיתוח מודלים מתקדמים בתחום.
"חלק מחברות ה-AI הפגינו רשלנות מטרידה בכל הנוגע לתמונות מיניות של ילדים במודלים שלהן", אמר, במה שנראה כהתייחסות לשערוריות התמונות המיניות של הצ'טבוט גרוק של אלון מאסק. "זה גורם לי לפקפק בכך שיפגינו נכונות או יכולות לטפל בבעיות אוטונומיה במודלים עתידיים". הוא סיכם בכך שאנחנו קרובים כיום יותר לסכנה "מכפי שהיינו ב-2023".
בתוך כך, אנתרופיק מנהלת מגעים עם משקיעים כמו מיקרוסופט, אנבידיה וקרן ההון של סינגפור לגיוס הון של 25 מיליארד דולר לפי שווי של 350 מיליארד דולר.
