טראמפ דוחה האזהרות: "AI לא תביא להכחדת האנושות"
נקודות עיקריות.כלכליסט AI
- נשיא ארצות הברית דונלד טראמפ דוחה את האזהרות בדבר איום קיומי מצד הבינה המלאכותית ומדגיש כי החשש המרכזי הוא איבוד ההובלה הטכנולוגית מול סין.
- חוקרים בולטים בחברות אנתרופיק ו-OpenAI מתריעים מפני קצב הפיתוח המהיר ומהאפשרות של שיפור עצמי רקורסיבי אשר עלול להוביל לתוצאות הרסניות לאנושות.
- במקביל לחילוקי הדעות המקצועיים, מתגבשת תמיכה דו-מפלגתית בקונגרס האמריקאי לקידום חקיקה שתסדיר את הפיקוח על פריסת מודלים מתקדמים של בינה מלאכותית.
נשיא ארה"ב, דונלד טראמפ, דחה את האזהרות לפיהן בינה מלאכותית עלולה להוות איום קיומי על האנושות; זאת, לאחר שבכירים בענקיות AI הזהירו באחרונה מפני הסיכונים של הטכנולוגיה. כך מדווחת CNBC.
כשנשאל האם יש לו חששות מכך שבינה מלאכותית תוביל להכחדת האנושות, אמר טראמפ: "לא, אין לי שום חשש". הנשיא אמר לכתבים בסוף השבוע כי "יש לי חשש שאם לא ננצח בבינה המלאכותית, נגיע למצב גרוע מאוד. אנחנו מובילים על סין, בפער די גדול, הייתי אומר בשנה - וזה נחשב להרבה".
ארה"ב וסין הן שני הכוחות הגדולים בעולם בתחום ה-AI, והתחרות ביניהן הולכת ומחריפה ככל שהמודלים הסיניים הופכים למתקדמים יותר ואימוצם ברחבי העולם הולך וגדל. דבריו של טראמפ נאמרו לאחר שכמה חוקרים בחברות ה-AI המובילות, בהן אנתרופיק ו-OpenAI, הזהירו באחרונה מקצב הפיתוח המהיר של הטכנולוגיה.
כך, ג'ייקוב קוקסון, חוקר המתמחה באימון מודלים חדשים, התפטר ביום שלישי מתפקידו באנתרופיק, מאחר שלדבריו חברות ה-AI "מהמרות על החיים שלנו". הוא הוסיף כי מי שבונים את הבינה המלאכותית סבורים שהיא עלולה "להרוג את כולנו עד סוף העשור" – עמדה שזכתה מאז לתמיכה מצד עובדים נוספים בחברות. חששות רבים בתחום בטיחות ה-AI נוגעים לפיתוח היכולת של מודלים לשפר את הביצועים של עצמם (שיפור עצמי רקורסיבי - RSI). "קשה להפריז בחומרת הסכנה שבדהירה לעבר RSI", אמרה ביום רביעי ג'סמין וואנג, חוקרת ב-OpenAI.
המדען הראשי של OpenAI, יקוב פאצ'וקי, אמר בשבוע שחלף כי יש לו "ציפייה חזקה" שקצב ההתקדמות בבינה מלאכותית יוכל להישמר ולהפוך לשיפור עצמי רקורסיבי. "אני מודאג מכך שאף אחד אינו מוכן להשלכות של עלייה מהירה ומתמשכת באינטליגנציית מכונות".
דבריו של טראמפ נאמרו בשעה שחלק מהמחוקקים הרפובליקנים הצטרפו לדמוקרטים בתמיכה בהגברת הפיקוח על מערכות AI מתקדמות. ביולי, חבר בית הנבחרים הרפובליקאי ג'יי אוברנולטי מקליפורניה וחברת בית הנבחרים הדמוקרטית לורי טרהאן ממסצ'וסטס הכריזו על כוונתם להציג הצעת חוק ("חוק פרונטיר") שתכונן מסגרת לניהול והסדרת הפריסה של מודלי AI מתקדמים.
