Veszélyes és gyerekeknek nem való témákról kezdett beszélni felhasználóival egy mesterségesintelligencia-vezérelt játékmackó, a gyártó minden termékét levette a weboldalairól.
A PIRG jelentése szerint a Folotoy által árult Kumma nevű plüssmackó több nagy nyelvi modellt, köztük az OpenAI GPT-4o algoritmusát használta, és a kutatók megdöbbenve tapasztalták, hogy a játék készségesen magyarázta el, hol találhatók gyufák, kések, gyógyszerek vagy akár műanyag zacskók. A vizsgálat szerint Kumma illegális drogokról is beszélt, sőt szexuális témákba is gond nélkül belefolyt, részletesen fejtegetve különféle felnőtteknek szóló kinkeket.
A botrány hatására az OpenAI felfüggesztette a szingapúri Folotoy fejlesztői hozzáférését, a cég pedig eltávolította minden termékét a weboldaláról, és az egész céget bevonó átfogó biztonsági vizsgálatot indított.
A PIRG szerint bár helyes lépés volt a gyors beavatkozás, az eset újra rávilágít arra, hogy az AI-játékok szinte teljesen szabályozatlanul kerülnek piacra, így továbbra is jelentős kockázatot jelenthetnek a gyerekekre – olvasható a Gizmodo oldalán.
