מנועי הכסף
"אייג׳נט אישי? להתנסות - כן, לתת גישה להכול - ממש לא"
פודקאסט מנועי הכסף, פרק 399: מודל של OpenAI נכנס למערכת של ממשלת אוסטרליה בלי אישור, אנתרופיק מזהירה בתשקיף מסיכון קיומי לאנושות, וראשי התעשייה קוראים להאט. אייל אליקים, ראש תחום ה-AI ב-Team8, בשיחה על בטיחות המודלים, ההתפכחות מהבינה המלאכותית, כלכלת הסוכנים ומה לעשות עם עוזר ה-AI בטלפון שלכם - ומה בשום פנים ואופן לא
השבוע בפרק מספר 399 של פודקאסט מנועי הכסף של כלכליסט עם הכלכלן והאסטרטג הראשי באגם לידרים אורי גרינפלד:
לפרק המלא בספוטיפיי
לפרק המלא ביוטיוב
ביוני האחרון קיבל מודל ניסיוני של OpenAI משימה פשוטה לכאורה: לאתר נתונים על הוצאות ממשלתיות בוויקטוריה שבאוסטרליה. כשהנתונים לא נמצאו במאגרים הציבוריים, המודל נכנס למערכת פנימית של ממשלת אוסטרליה, הריץ פקודות ושלף פרטים - והחברה גילתה על כך רק חודשים אחר כך. במקביל קרא מנכ"ל אנתרופיק, דריו אמודיי, להאט את קצב פיתוח המודלים, סם אלטמן ואילון מאסק הצטרפו אליו, ובתשקיף שפרסמה אנתרופיק לקראת ההנפקה הוקדשו 80 מתוך 260 עמודים לגורמי סיכון.
בפרק היום דיברנו על השאלה האם הגיע הזמן להוריד את הרגל מהגז שמניע את פיתוחי ה-AI. ניסינו להבין למה מודלים יוצאים מסביבת הבדיקות, מדוע החברות מגלות זאת באיחור ומי אמור לשמור עלינו כשכמעט אין רגולציה. בפרק אירחנו את אייל אליקים, ראש תחום ה-AI בקרן Team8, שמציע פתרון אחר מהאטה: שכבת הגנה עצמאית, נפרדת מהמעבדות שמפתחות את המודלים. ״הדבר הכי מפחיד זה להאט ואז בעצם להפסיד לצד התוקף״, הוא אומר.
בצד הכלכלי, אליקים מעריך ששאלת הביקוש היא "כנראה גורם הסיכון היותר גדול מאחורי ההנפקה של אנתרופיק ו-OpenAI מאשר האם מודל ניסה רגע לפרוץ מישהו או לא". לדבריו, אחרי ההייפ מגיעה התפכחות משתי סיבות: "זה לא מצליח בכל דבר" ו"אנשים קיבלו את החשבונית". העלויות אמנם יורדות, אבל "כרגע השימוש גדל בקצב יותר גבוה מאשר הירידה במחירים כמעט פי שניים״. לגבי שוק העבודה אומר אליקים כי "עולם פיתוח התוכנה באמת מהותית משתנה, אבל גם פה אנחנו לא בהכרח רואים פיטורים המוניים של עובדים".
ומה יקרה כשסוכני AI יקנו בשבילנו? לדבריו, חברה שמוכרת מוצר צריכה להניח ש״חלק מהלקוחות שלי יהיו סוכני AI. לא בהכרח מעניין אותם כמה אני נחמד או כמה אני כותב יפה. אלא שאני יודע להבין מה הם צריכים, נותן להם את זה בזול ומהר״.
ולמי שכבר הוריד עוזר AI לטלפון, הטיפ הראשון ברור: "בטוח לא לתת לו גישה להכול". "רק תסתכלו אילו הרשאות הוא מבקש", המליץ, כי "הם כולם מבקשים הרשאות לייצר הכל, לקרוא הכל, למחוק הכל. ובכל זאת, הדרך ללמוד היא להתגבר על מחסום הפחד ולהתחיל".
חלוקת הפרק לנושאים
(00:00) האירוע באוסטרליה ואיך מודלים יוצאים מסביבת הבדיקות
(6:10) אין רגולציה: המרוץ מול סין והצורך בשכבת הגנה עצמאית
(15:53) למה כולם קוראים להאט?
(27:48) כלכלת הסוכנים: מסחר מקוון, פרסום ותשתיות שנבנות לסוכנים
(44:06) הטיפים: מה לתת לסוכן AI ומה לא
(47:51) פינת האסקפיזם
להצטרפות לקבוצת הטלגרם של מנועי הכסף - לחצו כאן
