אנתרופיק מנסה למזער סיכונים: קלוד קיבל שיעור באתיקה מאנשי דת
בכירים בחברת הבינה המלאכותית נועצו בכמרים ובפילוסופים. הדיונים התמקדו בתגובות ה-AI למשתמשים באבל ובשמירה על גבולות אתיים בחברה.
אנתרופיק עלתה שלב בניסיונותיה לשמור על אתיות בפעילות צ'טבוט ה־AI שלה קלוד. על פי דיווח ב"וושינגטון פוסט", בחודש שעבר אירחה החברה 15 מנהיגים מעולם הנצרות, זאת לצד חוקרי תיאולוגיה, לדיונים עם בכירים בחברה. הכנס נועד לאפשר לאנתרופיק לכוון את ההתפתחות האתית והרוחנית של קלוד, זאת לאחר שהיווה גורם מפתח בזינוק שווי החברה ל־380 מיליארד דולר. "הם בונים משהו שהם לא יודעים לגמרי איך הוא ייצא", אמר ברנדן מקגווייר, כומר קתולי שהשתתף בכנס. "עלינו להטמיע חשיבה אתית בתוך המכונה, כך שתוכל להתאים את עצמה בצורה דינמית". לפי גורמים נוספים, הדיונים נסבו גם על תגובות אפשריות של קלוד למשתמשים שנמצאים באבל על מות יקיריהם, או משתמשים בעלי נטיות אובדניות.
אנתרופיק היא פעילה בולטת למען ניטור הסיכונים הפוטנציאליים של מודלי AI מתקדמים, זאת במקביל להיותה אחת השחקניות החזקות בתחום. "לפני שנה בכלל לא הייתי חושבת לתאר את אנתרופיק כחברה שאכפת לה מאתיקה דתית", ציינה מייגן סאליבן, מרצה לפילוסופיה באוניברסיטת נוטרדאם שהשתתפה בכנס. "אבל זה השתנה". דובר מטעם החברה מסר כי באנתרופיק מאמינים בחשיבות הקשר עם קבוצות שונות, כולל קהילות דתיות, זאת במטרה לעצב את תחום ה־AI ככל שתפקידו בחברה מתעצם.
