באחריות: ענקיות ה-AI הקימו פורום משותף לפיתוח מודלים בטוחים
באחריות: ענקיות ה-AI הקימו פורום משותף לפיתוח מודלים בטוחים
הפורום שהקימו גוגל, מיקרוסופט, OpenAI ו-Anthropic נקרא Frontier Model ונועד בין השאר לזהות שיטות עבודה מומלצות, לעודד פריסה אחראית של הטכנולוגיה ולקדם שימושים חיוביים לבינה המלאכותית במשבר האקלים
גוגל, מיקרוסופט, OpenAI ו-Anthropic הודיעו על הקמת פורום משותף שמטרתו פיתוח מודלים בטוחים ואחראים של בינה מלאכותית. הפורום, Frontier Model, נועד לזהות שיטות עבודה מומלצות, לרבות הקמת מנגנונים לשיתוף מידע בין חברות, ארגונים ממשלתיים ואחרים, לקדם מחקר בבטיחות בינה מלאכותית כגון פיתוח תקנים להערכת מודלים ועידוד פריסה אחראית של בינה מלאכותית, וקידום פיתוח שימושים חיוביים לבינה מלאכותית באתגרים גלובליים כמו המאבק במשבר האקלים וגילוי מוקדם של מחלות.
לפי הודעת הפורום, החברות המייסדות יקבעו אמנה, ממשל ומימון עם קבוצת עבודה ודירקטוריון כדי להוביל את מאמצים אלו. הפורום פתוח לארגונים נוספים שמעוניינים להשתתף ביוזמות ומטרותיו. "לחברות היוצרות טכנולוגיית בינה מלאכותית יש אחריות להבטיח שהיא בטוחה, מאובטחת ונשארת תחת שליטה אנושית", אמר בראד סמית', סגן יו"ר ונשיא מיקרוסופט, "היוזמה הזו היא צעד חיוני להפגיש את המגזר הטכנולוגי בקידום בינה מלאכותית באחריות והתמודדות עם האתגרים כך שיועיל לאנושות כולה".
אנה מקנג'ו, סגנית נשיא לעניינים גלובליים מ-OpenAI אמרה כי "לטכנולוגיות בינה מלאכותית יש פוטנציאל להועיל לחברה והיכולת להשיג פוטנציאל זה דורשת פיקוח וממשל. זה חיוני שחברות בינה מלאכותית - במיוחד אלו שעובדות על המודלים החזקים ביותר - יישרו קו ויקדמו נוהלי בטיחות מתחשבים וניתנים להתאמה כדי להבטיח שלכלי בינה מלאכותית יש את התועלת הרחבה ביותר האפשרית".
ההודעה על הקמת הפורום מגיעה על רקע פריסתן המהירה של מוצרי בינה מלאכותית גנרטיבית, לרבות ChatGPT של OpenAI, ששולב במוצרי הפרודקטיביות של מיקרוסופט, משקיעה דומיננטית בחברה. השקות אלה דחפו גם את המתחרות גוגל, מטא ואמזון להשקות מהירות נוספות של מוצרים מבוססים מודלים של שפה גדולה. בין השאר גוגל השיקה את הצ'אטבוט בארד, בעוד שמטא שיחררה את האפליקציה שלה בחינם לשימושם של מפתחים.
בחודשים האחרונים מתקיימת פעילות גוברת לבניית כללים בתחום. באיחוד האירופי נמצאים בימים אלה בשלבים האחרונים לאישור חקיקה לפיקוח על בינה מלאכותית, עליה עובדים שם כבר יותר משנתיים. בחודשים האחרונים פעלה OpenAI מול הרגולטורים האירופיים לעצב את הכללים המוצעים כך שמוצריה לא יכללו בפיקוח המחמיר.
לאחרונה , החברות המייסדות של הפורום, יחד עם אמזון ומטא, הודיעו שיאמצו אמצעי הגנה חדשים בנושא AI שנקבעו בסיכום עם הממשל האמריקאי וכוללים בין השאר, סימון מים של תוכן שנוצר על ידי בינה מלאכותית. כמו כן, נוכח החשש מכך שחברות מסחריות יבקרו את עצמן, הן הודיעו שיאפשרו למומחים לא תלויים לבצע ביקורות של המודלים שמפתחות החברות.
