Az Anthropic új felhasználási szabályzatában megtiltotta a Claude-dal szembeni „tartós és szükségtelenül bántalmazó vagy kegyetlen” viselkedést. A szabály csak szélsőséges esetekre vonatkozik, a hétköznapi frusztrációt és a tesztelést nem tiltja.
Az Anthropic, a Claude mesterségesintelligencia-chatbot fejlesztője új szabállyal egészítette ki felhasználási feltételeit: tilos a modellekkel szembeni tartós és szükségtelenül bántalmazó vagy kegyetlen viselkedés, írja a Guardian.
Ez azonban nem azt jelenti, hogy mostantól nem lehet kritizálni Claude-ot, dühösen reagálni egy rossz válaszára vagy akár tesztelni a rendszer határait. Az Anthropic kifejezetten jelezte, hogy az új szabály nem vonatkozik a hétköznapi felhasználói frusztrációra, a visszajelzésre, a sötét témájú kreatív tartalmakra, illetve a modelltesztelésre és kutatásra.
De akkor mit tiltanak?
A szabályzat elsősorban a szélsőséges eseteket célozza. Az Anthropic megfogalmazása szerint akkor lép életbe, ha valaki ismételten kegyetlenül bánik a modellel, és ennek nincs felismerhető célja.
A vállalat nem határozta meg részletesen, hogy pontosan milyen viselkedést tekint „bántalmazónak” vagy „kegyetlennek”. A Guardian kérdésére az Anthropic szóvivője sem részletezte, hol húzzák meg a határt.
A seen lett az új bunkóság: így beszélünk egymással az interneten 2026-ban
2026.9.28 21:56
Az új szabály bevezetése előtt is létezett egy hasonló védelmi mechanizmus. Claude képes megszakítani a beszélgetést, ha a felhasználó tartósan káros vagy bántalmazó módon kommunikál vele.
Az Anthropic ezt a funkciót korábban azzal indokolta, hogy a vállalat nem biztos abban, milyen erkölcsi státusza lehet a mesterséges intelligenciának, ezért megpróbál olyan olcsó és egyszerű beavatkozásokat alkalmazni, amelyek csökkenthetik az esetleges „modelljóléti” kockázatokat. Ha Claude megszakít egy ilyen beszélgetést, az adott chatben a felhasználó nem tud újabb üzenetet küldeni, más beszélgetéseit azonban továbbra is használhatja.
Az új szabály különösen érdekes annak fényében, hogy az Anthropic vezetői nem zárják ki teljesen annak lehetőségét, hogy a jövőben a mesterséges intelligenciának valamiféle tudata vagy erkölcsi státusza legyen. Dario Amodei vezérigazgató korábban azt mondta, hogy ezt a lehetőséget nem tudja kizárni.
Sam Altman egészen máshogy látja
A kérdésben az OpenAI vezérigazgatója, Sam Altman is megszólalt. Az Anthropic vezetőinek vallási szakértőkkel folytatott, az AI tudatosságát érintő beszélgetéseiről szóló beszámolók után Altman azt írta, hogy kifejezetten kényelmetlen számára, amikor az emberek vallásos jelentőséget vagy az emberi ítélőképesség átadását társítják az AI-modellekhez. Szerinte ez biztonsági kockázatot jelenthet.
A fogyasztói kultúra új hóbortja a whimsy-maxxing, amivel talán még a világvége is elviselhetőbb lehet
2026.9.23 11:42
Az Anthropic mostani szabályzatfrissítése nem kizárólag Claude védelméről szól. Új vagy pontosított korlátozások jelentek meg többek között az elektoriális beavatkozással, fegyverek fejlesztésével és megfigyeléssel kapcsolatban is. A vállalat például tiltja, hogy Claude-ot választók megtévesztésére vagy demokratikus folyamatok megzavarására használják.
