Az OpenAI a következő hetekben láthatatlan statisztikai vízjelet kezd elhelyezni az Európai Unióban generált ChatGPT- és Codex-szövegekben. A technológia azt jelezheti, hogy egy szöveg létrehozásában OpenAI-modell vett részt.
Az OpenAI a következő hetekben láthatatlan vízjelet vezet be az Európai Unióban generált ChatGPT- és Codex-szövegekben – jelentette be a vállalat. A lépés az EU mesterséges intelligenciáról szóló jogszabályának, az AI Actnek való megfelelést szolgálja.
A technológia neve textGrain, és nem konkrét karaktereket, extra szóközöket vagy különleges írásjeleket helyez majd el a szövegben, hanem a modell szóválasztásának statisztikai mintázatába épít be egy jelet. Ezt egy külön detektor lesz képes keresni.
Nem minden ChatGPT-szöveget lehet majd biztosan felismerni
Az OpenAI hangsúlyozza, hogy a vízjelezés nem tévedhetetlen. A detektor például nehezebben azonosítja a rövidebb szövegeket, illetve azokat, amelyekben kevés lehetőség van a szóválasztás variálására.
A vállalat tesztjeiben 200 tokenes szövegeknél körülbelül 80 százalékos, 400 tokenes szövegeknél pedig körülbelül 95 százalékos felismerési arányt mértek egy meghatározott, 1 százalékos téves riasztási arány mellett. Matematikai szövegeknél a felismerés ennél lényegesen rosszabb volt.
Mesterséges intelligencia vs. pszichológus: lehet-e a ChatGPT terápiás eszköz?
2025.2.9 10:09
Az átírás szintén jelentősen gyengítheti a jelzést: az OpenAI tesztjeiben a szavak 10 százalékának szinonimákra cserélése 92-ről 66 százalékra csökkentette a felismerési arányt, 25 százalékos csere esetén pedig 17 százalékra esett vissza.
Az OpenAI szerint egy detektált vízjel nem árulja el, hogy mekkora szerepet játszott az ember a szöveg elkészítésében. Nem állapítja meg azt sem, ki a szerző, ki birtokolja a szöveget, jogszerű volt-e a felhasználása, vagy hogy a tartalom pontos-e. A vízjel azt jelezheti, hogy egy OpenAI-rendszer generálta vagy dolgozta fel a szöveg egy részét.
Ugyanígy a vízjel hiánya sem bizonyítja, hogy egy szöveget ember írt. Lehet, hogy a szöveg túl rövid, jelentősen átírták vagy lefordították, illetve olyan modell vagy rendszer készítette, amelyhez nem tartozik OpenAI-féle vízjel.
Egyelőre nem lesz mindenki számára elérhető az ellenőrző
Az OpenAI egyelőre nem teszi nyilvánosan hozzáférhetővé a szöveges vízjelek detektorát. Kutatók és erre jogosult szakmai szervezetek jelentkezhetnek hozzáférésért, amelyet kezdetben egyenként bírálnak el.
Mégsem vonul ki Európából a ChatGPT, a vezérigazgató már a folytatáson töri a fejét
2023.5.26 15:36
A vállalat szerint erre azért van szükség, mert a technológia még fejlődik, és fontos, hogy a kutatók segítségével pontosabban felmérjék, mennyire megbízható a felismerés a valódi felhasználás során.
