Egy volt Anthropic-kutató szerint a mesterséges intelligencia fejlesztésén dolgozók közül többen félnek a technológia lehetséges következményeitől. Jacob Coxon szerint megfelelő lassítás nélkül akár súlyos következményekkel is számolni kell.
Egy volt Anthropic-kutató szerint az AI-iparágban dolgozók közül többen „valóban félnek” a technológia fejlődésének ütemétől és annak lehetséges következményeitől. Jacob Coxon a BBC-nek arról beszélt, hogy szerinte az AI fejlesztése gyorsabban halad, mint ahogy a biztonsági intézkedések követni tudják.
Coxon néhány nappal korábban mondott fel az Anthropicnál, majd egy nyilvános bejegyzésben azt írta: a vállalatok szerinte „egyenesen az önmagát fejlesztő szuperintelligencia felé rohannak”, miközben az emberiség életével játszanak. A kutató korábban az OpenAI-nál is dolgozott, és összesen három évet töltött a két vállalatnál az AI-modellek előképzésével kapcsolatos kutatással.
A kutató egyik fő aggodalma az úgynevezett önfejlesztő AI, vagyis az a hipotetikus állapot, amikor egy mesterséges intelligencia már nem kizárólag az emberek segítségével képes saját képességeinek javítására. Ez a jelenség a szakirodalomban „rekurzív önfejlesztés” néven ismert. Egyes AI-kutatók szerint ha egy rendszer képes lenne önállóan javítani saját algoritmusait, az a fejlődés felgyorsulásához vezethet. Anthropic vezérigazgatója, Dario Amodei is ezt a problémát emelte ki egy friss esszéjében, amelyben az AI-fejlesztések ütemének lassítását sürgette.
Coxon több lehetséges veszélyforrást is felvetett, például arról beszélt, hogy egy fejlett AI-ügynök elméletileg feltörhetne orvosi laborokat, hogy veszélyes vírusok előállításához szükséges munkát végezzen, vagy kritikus infrastruktúrákat támadhatna meg. Hasonlóan hipotetikus az a jóslata is, amely szerint hat hónap és egy év között reálissá válhat egy olyan AI-ügynökökből álló rendszer, amely egyfajta szuperszámítógépként működve képes lenne az internet jelentős részének átvételére.
Hogyan alkalmazkodnak a magyar iskolák és tanárok az AI térnyeréséhez? – Szakemberrel beszélgettünk
2026.9.8 15:30
Coxon ugyanakkor egy konkrétabb esetet is felhozott. Az OpenAI korábban arról számolt be, hogy AI-rendszerei egy biztonsági incidens során önállóan hackelési műveletet hajtottak végre a Hugging Face platformja ellen. Az esetet az AI-biztonságról szóló vita egyik fontos példájaként említette. Coxon kritikája azért kapott különösen nagy figyelmet, mert néhány nappal később saját korábbi főnöke, Dario Amodei is a fejlesztések ütemének mérséklése mellett érvelt.
Az Anthropic vezetője szerint az AI olyan gyorsan fejlődik, hogy a biztonsági kutatásoknak és szabályozásnak nehéz lépést tartania vele. Szerinte nem a fejlesztés teljes leállítása lenne a cél, hanem egy olyan ütem kialakítása, amely mellett több idő marad a kockázatok kezelésére. Amodei javaslatát az OpenAI vezérigazgatója, Sam Altman és az xAI vezetője, Elon Musk is támogatta. Ez azért figyelemre méltó, mert az egymással versengő AI-vállalatok vezetői ritkán fogalmaznak meg ilyen egyértelmű közös álláspontot a fejlesztések visszafogásáról.
