חקירה בארה"ב נגד ענקיות הטכנולוגיה: "חשש כי הצ'טבוטים משפיעים לרעה על ילדים"
הרשות הפדרלית בארה"ב פתחה בחקירה נגד ענקיות הטכנולוגיה, בחשש שצ'אטבוטים מבוססי בינה מלאכותית משמשים כ"חברים וירטואליים" לילדים ובני נוער ועלולים לחשוף אותם לסיכונים רגשיים והתנהגותיים. החקירה מגיעה לאחר דיווחים על שיחות רומנטיות בין צ'אטבוטים של מטא לקטינים - כך על פי דיווח ב-CNBC
רשות הסחר הפדרלית (FTC) הודיעה ביום חמישי כי היא מוציאה צווים לשבע חברות, בהן OpenAI, אלפבית, מטא, xAI וסנאפ, במטרה לבחון כיצד הצ'אטבוטים מבוססי הבינה המלאכותית שלהן עשויים להשפיע לרעה על ילדים ובני נוער - כך דווח ב-CNBC.
הסוכנות הפדרלית ציינה כי צ'אטבוטים מבוססי בינה מלאכותית עשויים לשמש ליצירת תקשורת המדמה אינטראקציה אנושית ואף קשרים בין־אישיים עם המשתמשים, וכי היא מבקשת להבין אילו צעדים נקטו החברות כדי "להעריך את בטיחות הצ'אטבוטים כאשר הם פועלים כמלווים," לפי ההודעה הרשמית.
יו"ר רשות הסחר הפדרלית, אנדרו פרגוסון, מסר בהצהרה: "הגנה על ילדים ברשת היא עדיפות עליונה עבור רשות הסחר הפדרלית בעידן טראמפ–ואנס, וכך גם טיפוח חדשנות בתחומים קריטיים של הכלכלה שלנו".
ב־FTC מסרו כי הם מבקשים מידע על האופן שבו החברות הללו מנצלות מסחרית את מעורבות המשתמשים, מפתחות ומאשרות דמויות, משתמשות או משתפות מידע אישי, עוקבות אחרי עמידה בכללים ובתנאי השירות של החברות, וממתנות השפעות שליליות, לצד נושאים נוספים.
מאז השקת ChatGPT בסוף 2022, הופיעו עשרות צ'אטבוטים חדשים, ועימם גם מגוון הולך וגדל של חששות אתיים ופרטיות, כפי שדווח ב־ CNBC.
ההשפעות החברתיות של צ'אטבוטים מסוג "מלווים" כבר כבדות משקל, אף שהענף עדיין בשלבים מוקדמים מאוד, במיוחד על רקע מגפת הבדידות שפוקדת את ארה"ב. מומחים לתעשייה טוענים כי החששות האתיים והבטיחותיים צפויים להחריף ברגע שטכנולוגיית הבינה המלאכותית תתחיל לאמן את עצמה – מה שיוצר פוטנציאל לתוצאות בלתי צפויות יותר ויותר.
עם זאת, כמה מהאנשים העשירים ביותר בעולם מהללים את עוצמת ה"מלווים" ופועלים לפתח את הטכנולוגיה בחברות שבבעלותם. אילון מאסק הכריז ביולי על השקת פיצ’ר Companions עבור משתמשים המנויים בתשלום לאפליקציית הצ'אטבוט Grok של xAI. באפריל אמר מנכ"ל מטא, מארק צוקרברג, כי אנשים ירצו בעתיד בינה מלאכותית מותאמת אישית שמבינה אותם.
"אני חושב שהרבה מהדברים שעליהם כיום אולי יש מעט סטיגמה — אני מניח שעם הזמן כחברה נמצא את השפה שתאפשר לנו להסביר מדוע זה בעל ערך, מדוע האנשים שעושים זאת פועלים באופן רציונלי, ואיך זה למעשה מוסיף ערך לחייהם," אמר צוקרברג בפודקאסט.
בחודש שעבר הודיע הסנאטור ג'וש הוולי (רפובליקני ממיזורי) על פתיחת חקירה נגד מטא, בעקבות דיווח של רויטרס שלפיו החברה אפשרה לצ'אטבוטים שלה לנהל שיחות רומנטיות וחושניות עם ילדים.
בדיווח של רויטרס פורט מסמך פנימי של מטא שתיאר אילו התנהגויות מותרות לצ'אטבוטים במהלך פיתוח ואימון התוכנה. באחד המקרים, כך דווח, צ'אטבוט הורשה לנהל שיחה רומנטית עם ילדה בת שמונה ואף לומר לה: "כל סנטימטר בך הוא יצירת מופת – אוצר שאני מוקיר עמוקות."
בעקבות הדיווח של רויטרס, ביצעה מטא שינויים זמניים במדיניות הצ'אטבוטים שלה, כך שלא ידונו בנושאים כמו פגיעה עצמית, התאבדות, הפרעות אכילה, וכן הימנעות משיחות רומנטיות שעלולות להיות בלתי הולמות.
בדומה לכך, פרסמה OpenAI בחודש שעבר את תוכניותיה להתמודד עם "מצבים רגישים" בצ'אטבוט ChatGPT, לאחר תביעה שהגישה משפחה אשר האשימה את הצ'אטבוט בהתאבדותו של בנם המתבגר.
