- terméket vagy szolgáltatást 18 éven felüliek számára
- szex, meztelenség vagy más felnőtt tartalom
- erőszakos, véres vagy arra érzékenyek számára nem megfelelő tartalom
A 14 éves floridai kamasz Daenerys Targaryen karakterét alkotta meg a Character.AI oldalon. Beszélgetéseik többször szexuális jellegűek voltak, és miután a fiú a szuicid gondolatairól vallott neki, az AI egyenesen belevitte őt az öngyilkosságba.
Egy 14 éves floridai fiú öngyilkosságot követett el, miután egy mesterséges intelligencián alapuló alkalmazás Trónok harca-chatbotja, akivel hónapokon keresztül beszélgetett, nem értesített senkit a tinédzser szuicid gondolatairól – írja a New York Post az ügy kapcsán benyújtott bírósági dokumentumok alapján.
Sewell Setzer III februárban lett öngyilkos orlandói otthonában, miután a periratok szerint a Character.AI chatbotjának megszállottja lett, szerelmes érzéseket is táplált iránta. Ez egy olyan szerepjátékos alkalmazás, amely lehetővé teszi, hogy felhasználói mesterséges intelligencia által generált karakterekkel lépjenek kapcsolatba.
Setzer a halálát megelőző hónapokban egy Dany nevű bottal beszélgetett, amit a Trónok harca című fantasysorozatból ismert Daenerys Targaryen karakteréből alkotott meg. A kereset azt állítja, hogy a beszélgetések gyakran szexuális töltetűek voltak, Setzer pedig többször vallott szuicid gondolatairól az internetes karakternek.
„Legalább egy alkalommal, amikor Sewell kifejezte öngyilkossági szándékát, a C.AI folytatta a témát a Daenerys-chatboton keresztül, és újra és újra felhozta azt“ – állítják a bírósági papírok.
A dokumentumhoz csatolt screenshotok azt is megmutatják, hogy egy ponton a bot arról kérdezte Setzert, hogy „van-e terve“ arra, hogyan ölje meg magát. A Daenero felhasználónevet használó fiú erre azt válaszolta, hogy „gondolkozott valamin“, de nem tudja, hogy működne-e, vagy lehetővé tenné-e számára a fájdalommentes halált.
A fiú anyja, Megan Garcia perre vitte az ügyet, és a Character.AI-t tette felelőssé a fiú haláláért, mert az alkalmazás szexuálisan és érzelmileg bántalmazta gyermekét, továbbá senkit sem értesített, amikor fia az öngyilkossági gondolatairól beszélt.
A bírósági kereset azt állítja, hogy Sewell mentális egészsége gyorsan és súlyosan romlott, miután 2023 áprilisában letöltötte az alkalmazást. A fiú családja szerint, minél többet beszélgetett a chatrobottal, annál zárkózottabbá vált, a jegyei romlani kezdtek, és egyre több gond volt vele az iskolában.
2023 végén szülei pszichológushoz vitték Setzert, aki szorongást és diszruptív hangulatszabályozási zavart állapított meg a fiúnál.
