לכו לפסיכולוג: ChatGPT יצמצם את הייעוץ הרגשי והנפשי שהוא מעניק
לפי הצהרה שפרסמה OpenAI, המפתחת של צ'טבוט ה-AI הפופולרי, הוא יעודד את המשתמשים לקחת הפסקה משיחות ממושכות איתו וימנע מהענקת עצות ישירות הקשורות להתמודדות עם אתגרים אישיים. "היו מקרים שבהם המודל העדכני ביותר שלנו לא הצליח להבחין בסימנים לתלות רגשית", הודו בחברה
צ'טבוט ה-AI הפופולרי, ChatGPT מצמצם את הייעוץ הפסיכולוגי שהעניק עד כה למשתמשים. OpenAI , החברה שפיתחה את הכלי, הודיעה כי החל מהשבוע ChatGPT יעודד את המשתמשים לקחת הפסקה משיחות ממושכות איתו, ובהמשך הוא ימנע מהענקת עצות ישירות לגבי התמודדות עם אתגרים אישיים. במקום זאת, הצ'טבוט ינסה לגרום למשתמשים לקבל החלטות לבד על ידי כך שישאל שאלות מנחות או יצביע על היתרונות והחסרונות של כל החלטה.
"היו מקרים שבהם המודל העדכני ביותר שלנו לא הצליח להבחין בסימנים לתלות רגשית", נכתב בהצהרה שפרסמה החברה. "אף שמדובר במקרים נדירים, אנחנו ממשיכים לעבוד על שיפור המודלים והכלים שלנו כדי לזהות בצורה טובה יותר סימנים למצוקה נפשית או רגשית, כך שה- ChatGPT יוכל להגיב בהתאם ולכוון אנשים בעת הצורך למשאבים המבוססים על הוכחות". לפיכך, בחברה הגדירו שיחה יעילה ככזו שמזכירה שיחת עידוד או כוללת עצה לפנות למומחים.
השינוי יוצא לדרך לאחר שמודל GPT-4o שהושק מוקדם יותר השנה, ספג ביקורת על כך שהוא מרצה מדי את המשתמשים ומסכים עם כל מה שהם אומרים. עד כדי כך, שבאחד המקרים הוא שיבח משתמש ש"האמין שהמשפחה שלו מעבירה אותות רדיו דרך הקירות", ובמקרים אחרים עודד ונתן הנחיות לביצוע פעולות טרור.
לפי, OpenAI הם בעצמם השתמשו בעצת מומחים – 90 אנשי בריאות מעשרות מדינות - כדי לסייע למודל להגיב בצורה הולמת יותר למצבים רגישים, במיוחד כשהמשתמש מפגין סימנים למצוקה נפשית. בנוסף, החברה מקימה פאנל ייעוץ שיורכב ממומחים בתחום בריאות הנפש, פסיכולוגיית בני נוער וכן מומחים ליחסים בין אנשים למחשבים.
מנכ"ל החברה סם אלטמן התייחס לאחרונה לבעיה הזו של אנשים המתייחסים ל-AI כאל פסיכולוג אמיתי. "אם אתם מדברים עם ChatGPT על הדברים הרגישים ביותר, אז אם תהיה תביעה או משהו בסגנון, אנחנו עלולים להיות מחוייבים להעביר את המידע הזה. ואני חושב שזה ממש דפוק", אמר בריאיון בפודקאסט של תיאו פון.
בנוסף לשינוי הזה, החברה השיקה לאחרונה סוכני AI שיכולים לבצע משימות מקוונות כמו קביעת תורים או סיכום מיילים. בשבוע שעבר אף נחשף כי החברה גייסה 8.3 מיליארד דולר לפי שווי של 300 מיליארד דולר.
