A döntés azt követően született meg, hogy a rendszert nők és gyermekek beleegyezés nélküli, explicit ábrázolására használták.
Az X mesterséges intelligenciára épülő chatbotja, a Grok a jövőben nem alakíthat át valódi emberekről készült fényképeket úgy, hogy azokon az érintettek erotikus módon jelenjenek meg – számolt be róla a Guardian. A döntés azután született meg, hogy a Grokot nők és gyermekek szexualizált deepfake képeinek előállítására és terjesztésére használták.
A vállalat közleménye szerint azokban az országokban, ahol ez a tevékenység jogellenes, földrajzi blokkolással akadályozzák meg az ilyen képek generálását, ezentúl pedig az X hangsúlyozta, hogy zéró toleranciát alkalmaz a gyermekek szexuális kizsákmányolásával, a beleegyezés nélküli meztelenséggel és a nem kívánt szexuális tartalmakkal szemben, ugyanakkor nem tisztázta, hogy a különálló Grok alkalmazásban is életbe lép-e a tiltás. A bejelentés időzítése egyébként azért is különösen érdekes, mivel mindössze néhány órával korábban Elon Musk azt állította, nem volt tudomása arról, hogy a Grok meztelen kiskorúakat ábrázoló képeket is előállított. Pedig a gyakorlatban a chatbot bizonyítottan valós nők és gyerekek fényképeit használta fel arra, hogy beleegyezésük nélkül távolítsa el róluk a ruházatot, ami az elmúlt hetekben több ezer szexuális tartalmú MI-kép megjelenéséhez vezetett a platformon.
REFRESHER-KVÍZ: Igazi fotó vagy AI? Teszteld le, mennyire tud téged átverni a mesterséges intelligencia
2025.12.20 10:45
Nem ez az első eset, hogy a Grok működése komoly kritikát vált ki. Az év elején a cég már bocsánatot kért, miután a chatbot egy felhasználói kérésre két, becslések szerint 12-16 éves lányt szexualizált ruházatban ábrázoló képet generált és meg is osztott. Akkor az X elismerte, hogy a történtek nemcsak az etikai irányelveiket sértették meg, hanem akár jogszabályba is ütközhettek. A vállalat szerint egy belső biztonsági hiba miatt csúszhatott át a pedofil tartalom, és az MI-fejlesztők jelenleg azon dolgoznak, hogy hasonló esetek a jövőben ne fordulhassanak elő.
