עם הגנות מחמירות יותר: OpenAI השיקה ChatGPT ייעודי לבני נוער
נקודות עיקריות.כלכליסט AI
- חברת OpenAI השיקה גרסה ייעודית של ChatGPT לבני נוער הכוללת בקרת הורים, הגבלות על תכנים רגישים וכלים המיועדים לסיוע לימודי מודרך.
- המערכת תזהה משתמשים מתחת לגיל 18 באופן אוטומטי או על סמך הצהרת גיל, ותאפשר להורים לנהל הגדרות פרטיות, לקבוע שעות פעילות ולקבל התראות על שיחות בנושאים חריגים.
- המהלך מגיע על רקע ביקורת ציבורית ולחץ משפטי גובר בנוגע להשפעות השליליות של צ'אטבוטים ורשתות חברתיות על בריאותם הנפשית ועל תהליכי הלמידה של קטינים.
חברת הבינה המלאכותית OpenAI השיקה היום (ג') גרסה של ChatGPT המותאמת לקטינים, הכוללת בקרת הורים ותכונות אבטחה משופרות, על רקע הביקורת הגוברת על פלטפורמות מקוונות בשל הסיכונים הכרוכים בצ'אטבוטים מבוססי בינה מלאכותית.
מצב "ChatGPT לבני נוער" החדש יגביל שיחות בנושאים בעלי סיכון גבוה, כמו פגיעה עצמית, אלימות והפרעות אכילה, ובמקביל יציע כלים חינוכיים שנועדו לסייע לתלמידים ללמוד במקום פשוט לספק להם את התשובה, מסרה OpenAI בפוסט בבלוג שלה.
לפי הדיווח ברויטרס, המצב יופעל אוטומטית כאשר המערכת מעריכה שהמשתמש מתחת לגיל 18, או כאשר המשתמש מצהיר שגילו בין 13 ל-17. הורים יוכלו להגדיר "שעות שקטות", לנהל הגדרות מסוימות ולקבל התראות כאשר בני הנוער משוחחים על נושאים רגישים.
המהלך מציב את מפתחת ChatGPT לצד ענקיות טכנולוגיה כמו מטא, שחיזקו את ההגנות על בני נוער בפלטפורמות שלהן לנוכח איומים משפטיים גוברים והצטברות ראיות לנזק שנגרם לבריאותם הנפשית. הלחץ על חברות הטכנולוגיה גבר גם בעקבות מגמה עולמית של מדינות לקדם איסור על שימוש ברשתות חברתיות בקרב בני נוער, בשל החשש לנזקים הנגרמים להם.
עבור OpenAI, שכבר מתמודדת עם כמה תביעות שבהן נטען כי ChatGPT גרם נזק לילדים, האתגר מורכב עוד יותר משום שצ'אטבוטים המסוגלים לנהל שיחות דמויות אדם נתפסים יותר ויותר כאנשים שניתן לשתף אותם בסודות וכמקור לתמיכה רגשית.
מומחים הזהירו כי הסתמכות על אוטומציה לצורך קבלת ייעוץ בתחום בריאות הנפש טומנת בחובה סכנות. משפחות של אנשים שמתו, לכאורה לאחר אינטראקציות עם צ'אטבוטים, מתחו ביקורת על היעדר אמצעי הגנה מספקים. במקביל, השימוש הגובר של תלמידים בבינה מלאכותית לצורך הכנת מטלות מעורר חששות מפני הנזק שהטכנולוגיה עלולה לגרום ללמידה.
"אנחנו מאמינים שבינה מלאכותית צריכה להרחיב את ההזדמנויות החינוכיות, ולכן עיצבנו את ChatGPT לבני נוער כדי לתמוך ברגעים שמחוץ לכיתה, שבהם עזרה לא תמיד זמינה", מסרה OpenAI. המצב החדש כולל כלים חינוכיים, ובהם מצב לימוד ללמידה מודרכת, תזכורות להכנת שיעורי בית, חידונים והמחשות חזותיות. מחקר של מרכז המחקר פיו (Pew Research Center) שפורסם מוקדם יותר השנה מצא כי חיפוש מידע וקבלת עזרה בשיעורי בית היו השימושים הנפוצים ביותר של בני נוער בארה"ב בבינה מלאכותית, ואחריהם שימושים לצורכי כיף ובידור.
OpenAI, שדורשת מהמשתמשים להיות בני 13 לפחות או לעמוד בגיל המינימום הנדרש במדינה שבה הם נמצאים, מסרה כי תשתמש בשילוב של דיווח עצמי על הגיל, אותות התנהגותיים ואותות הקשורים לחשבון, לצד אימות, כדי להעריך את גילו של המשתמש. החברה מסרה כי כאשר היא אינה בטוחה בגילו של המשתמש, היא תפעיל כברירת מחדל את ההגדרה הבטוחה יותר.
