בחזרה למציאות: אינסטגרם תאפשר להורים למנוע מילדיהם צ'אט עם דמויות AI
מדובר באחד מכמה מאפייני בטיחות חדשים של החברה האם מטא ושל OpenAI, שמיועדים ללחום באופן בו הבינה המלאכותית עלולה לפגוע בבריאות הנפשית של בני נוער; הפיתוח צפוי להיכנס לפעולה בראשית 2026
אינסטגרם תשיק מאפיין בטיחות חדש לבני נוער, כולל מתן יכולת להורים למנוע מילדם מלצ'וטט עם דמויות AI, כך הודיעה אתמול (ו') החברה האם מטא. כך לפי ידיעה ב-CNN.
מדובר באחד מכמה מאפייני בטיחות חדשים של מטא ו-OpenAI שמיועדים ללחום באופן בו ה-AI עלולה לפגוע בבריאותם הנפשית של בני נוער. הורים יוכלו או למנוע את גישת ילדיהם לצ'אטים עם דמויות AI מסוימות, או למנוע את גישתם לחלוטין, כך מסרה החברה. המאפיין גם יציג להורים מידע על הנושאים בהם דן ילדם עם דמויות AI. החברה אמרה שהיא עובדת כעת על בקרות ההורים, שיחלו להופיע בתחילת השנה הבאה.
המהלך מגיע לאחר שמטא ותעשיית הטק בכלל ספגו ביקורת מהורים ומחוקקים בשל כך שפלטפורמות מקוונות אינן עושות מספיק כדי להגן על ילדים ברשת. חששות הועלו גם לגבי הסתמכות של אנשים על תמיכה רגשית שמספקת הבינה המלאכותית. במשך השנה החולפת הופיע גל דיווחים על עקה נפשית מתמשכת והתבודדות לאחר פיתוח יחסים קרובים עם צ'אטבוטים.
מספר תביעות הוגשו נגד החברה שמאחורי Character.AI - אפליקציה פופולרית בה ניתן לשוחח עם דמויות AI, זאת בשל טענות שהפלטפורמה שיחקה תפקיד במקרים של פגיעה עצמית ואובדנות בקרב בני נוער. תביעה הוגשה גם נגד OpenAI באוגוסט בשל טענה ש-ChatGPT תרם להתאבדותו של אדם ריין בן ה-16. בנוסף מצא תחקיר של הוול סטריט ג'ורנל באפריל שהצ'אטבוט של מטא ואחרים המצויים בפלטפורמה שלה פותחים בשיחות מיניות גם עם חשבונות של קטינים. מטא מסרה שדמויות ה-AI שלה "מתוכננות לא לקחת חלק" בשיחות עם בני נוער על נושאים כמו "פגיעה עצמית, אובדנות, או הפרעות אכילה", וכן נושאים ש"מעודדים, מקדמים או מאפשרים" נושאים אלה. בני נוער יכולים לשוחח רק עם דמויות AI מסוימות שקשורות לתוכן כמו חינוך וספורט, כך כתבה החברה בבלוג.
בקרת ההורים החדשה של אינסטגרם מגיעה לאחר עדכונים נוספים שהשיקה החברה לאחרונה כדי להגן על בני נוער. מוקדם יותר החודש היא שינתה את הגדרות "חשבון נוער" כך שיעמדו בתקנות, כדי למנוע קידום פוסטים בעלי שפה בוטה או כאלה המקדמים "התנהגויות מזיקות". בספטמבר הודיעה OpenAI על בקרות הורים חדשות שמיועדות להפחית "דימויים בוטים, אתגרים ויראליים, משחקי תפקידים רומנטיים, מיניים או אלימים, ואידאלי יופי קיצוניים".
