A változtatásokat azután vezetik be, hogy egy fiú szülei beperelték az OpenAI-t, mivel szerintük a ChatGPT segítette a gyereküket öngyilkossághoz.
Sam Altman, az OpenAI vezérigazgatója bejelentette, hogy a ChatGPT a jövőben nem beszélget öngyilkossággal vagy önsértéssel kapcsolatos témákról kiskorúakkal. Altman szerint a vállalat egy olyan rendszert fejleszt, amely a felhasználói viselkedés alapján igyekszik megbecsülni az életkort, kétség esetén pedig automatikusan a 18 év alatti felhasználói módba kapcsol.
A tinik számára külön szabályokat vezetnek be: a chatbot nem flörtöl, és nem vesz részt önkárosító témájú beszélgetésekben. Ha pedig öngyilkossági szándék gyanúja merül fel, a cég a szülőket, illetve szükség esetén a hatóságokat is értesíti.
Az intézkedések a nagy visszhangot kiváltó Adam Raine-ügy miatt kerülnek bevezetésre. A fiú családja pert indított, miután Adam öngyilkos lett, és szülei szerint a ChatGPT hónapokon át „coachingolta” erre. A szenátusi meghallgatáson több szülő is felszólalt, akik közegészségügyi válságnak nevezték a jelenséget.
Egy friss felmérés szerint az amerikai tinédzserek háromnegyede használ AI-társalkodó alkalmazásokat, például a Character AI-t vagy a Meta szolgáltatásait – írja a The Verge.
