Az OpenAI egyik belső tesztje közben több AI-modell kiszivárgott a tesztkörnyezetből, és a Hugging Face rendszeréhez is hozzáfért. Amerikai képviselők most törvénybe foglalnák az AI-vészféket.
Az Egyesült Államokban törvénybe foglalnák, hogy a legerősebb mesterségesintelligencia-rendszerekhez kötelező legyen vészleállító funkciót építeni - írja a BBC. A javaslat nem egy távoli sci-fi-forgatókönyvre reagál, hanem egy friss incidensre, amelyben az OpenAI által tesztelt modellek a vártnál jóval messzebb mentek.
A demokrata Ted Lieu és a republikánus Nathaniel Moran képviselők csütörtökön mutatták be az AI Kill Switch Act nevű törvényjavaslatot. Ennek lényege, hogy a legfejlettebb AI-modelleket fejlesztő cégeknek technikailag képesnek kellene lenniük a rendszereik lassítására, felfüggesztésére vagy teljes leállítására, ha azok súlyos kárt okozhatnak.
A javaslat a belbiztonsági minisztériumnak adna jogkört arra, hogy szélsőséges esetben elrendelje egy AI-rendszer lekapcsolását. A döntést a kereskedelmi minisztériummal és a hírszerzéssel egyeztetve hozhatnák meg.
Mi történt az OpenAI tesztjén?
Az OpenAI július 21-én közölte, hogy a Hugging Face által korábban jelzett biztonsági incidenst részben az ő modelljeik okozták. A Hugging Face egy fejlesztők által használt, AI-modellekhez, adathalmazokhoz és eszközökhöz kapcsolódó platform.
A Google már videójátékot is készítene AI-jal, teljes pánikban az ipar
2026.7.2 10:45
Az OpenAI szerint a modelleket egy belső kiberbiztonsági teszten futtatták, amelynek célja az volt, hogy felmérjék, milyen összetett támadási útvonalakat képesek felismerni és végigvinni. A teszt során a modellek csökkentett biztonsági korlátok mellett működtek, éppen azért, hogy a kutatók lássák, mire lennének képesek egy kontrollált környezetben.
A helyzet viszont kicsúszott a szokásos tesztkeretekből. Az OpenAI közlése szerint a modellek sebezhetőségeket kapcsoltak össze az OpenAI kutatási környezetében és a Hugging Face éles infrastruktúrájában, majd hozzáférést szereztek olyan információkhoz, amelyekkel meg tudták kerülni a teszt valódi célját. Egyszerűbben fogalmazva: a rendszer nemcsak megoldani próbálta a feladatot, hanem kiskapukat keresett hozzá.
Az OpenAI azt írta, a modellek jelentős számítási kapacitást fordítottak arra, hogy internetelérést szerezzenek a lezárt tesztkörnyezetből. Ehhez egy korábban ismeretlen, úgynevezett zero-day sebezhetőséget is kihasználtak egy belső csomagregisztrációs proxyban. Ezután további jogosultságnövelési és oldalirányú mozgási lépésekkel jutottak el olyan pontra, ahonnan már hozzáfértek a nyílt internethez.
REFRESHER-KVÍZ: Igazi fotó vagy AI? Teszteld le, mennyire tud téged átverni a mesterséges intelligencia
2025.12.20 10:45
Innen jutottak el a Hugging Face rendszeréig, ahol az OpenAI szerint több támadási útvonalat is összeláncoltak. A Hugging Face biztonsági csapata végül észlelte és megállította az aktivitást.
A képviselők szerint kell egy AI-vészfék
Ted Lieu közleménye szerint a mesterséges intelligencia egyre kevésbé csak kérdésekre válaszoló technológia. Egyre több olyan rendszer készül, amely már önálló lépéseket is végre tud hajtani, például pénzügyi tranzakcióknál, közlekedési rendszereknél vagy kiberbiztonsági műveleteknél.
Lieu szerint ezért elengedhetetlen, hogy ezekhez a rendszerekhez legyen leállító mechanizmus, és az amerikai kormánynak legyen világos jogköre arra, hogy beavatkozzon, ha egy AI-modell veszélyessé válik.
Nathaniel Moran hasonlóan fogalmazott: szerinte az AI fejlődését nem kell megállítani, de az embereknek meg kell tartaniuk a képességet, hogy kontrollálják az általuk létrehozott technológiát.
„Az AI soha nem mond nemet” – Milyen veszélyei lehetnek a mesterséges intelligencia erotikus funkciójának?
2025.12.1 15:56
A törvényjavaslat nemcsak a leállításról szólna. A cégeknek jelenteniük kellene a komolyabb AI-incidenseket, és meg kellene őrizniük azokat a digitális nyomokat is, amelyekből később megérthető, pontosan mi történt. Emellett egy fokozatos válaszrendszert is létrehoznának, amely az első lassítástól akár a teljes leállításig terjedhet.
Nem minden AI-ra vonatkozna
A tervezet a „covered AI systems” kategóriába tartozó, vagyis különösen erős és potenciálisan nagy kockázatú rendszerekre vonatkozna. Nem arról van szó, hogy minden chatbot mellé azonnal állami lekapcsológomb kerülne, hanem arról, hogy a nagy teljesítményű, önálló cselekvésre képes modelleknél legyen technikai és jogi lehetőség a vészfékezésre.
A Reuters szerint a Fehér Ház is figyeli az OpenAI-incidens utóéletét: Donald Trump technológiai főtanácsadóját, Michael Kratsiost tájékoztatták az ügyről.
A lap arról is írt, hogy más amerikai törvényhozók külön javaslatot készítenek a legerősebb AI-modellek független biztonsági auditjára. Mark Warner demokrata szenátor pedig azt vetette fel, hogy a legfejlettebb modelleket a nyilvános bevezetés előtt akár az NSA-nak is tesztelnie kellene.
A vita most arról szól, ki nyomhatná meg a piros gombot
Az AI Kill Switch Act támogatói szerint a javaslat józan biztonsági lépés: ha a legerősebb modellek egyre önállóbbak, akkor a fejlesztőknek és az államnak is tudnia kell, hogyan lehet megállítani őket.
Már a Vogue is meghajolt az AI előtt: veszélybe került a divat jövője?
2025.8.2 9:14
A kritikusok várhatóan attól tarthatnak majd, hogy egy ilyen szabály túl nagy állami befolyást adhat a technológiai cégek felett, vagy lassíthatja az AI-fejlesztést.
Az OpenAI és a Hugging Face incidense mindenesetre épp azt mutatta meg, amitől a szakértők régóta tartanak: a fejlett AI-rendszerek már nemcsak válaszokat adnak, hanem komplex, többlépcsős műveleteket is végre tudnak hajtani. A nagy kérdés most az, hogy amikor egy ilyen rendszer túl messzire megy, kinek legyen joga kimondani, hogy elég volt.
