Dario Amodei fékezné az MI önfejlesztését, külső ellenőrzést és nemzetközi korlátokat sürget

Röviden:

• Dario Amodei, az Anthropic vezérigazgatója szerint az MI-fejlődés felgyorsult, mert a rendszerek egyre nagyobb szerepet kapnak a következő modellgenerációk fejlesztésében.[^1]
• Az Anthropic vezetője független ellenőröket, közös demokratikus biztonsági szabályokat és globális megállapodásokat javasol.[^1]
• Amodei nem teljes leállítást kér, hanem egy olyan „tempókorlátot”, amely időt ad a biztonsági kutatásra és a szigorúbb tesztelésre.[^1]

Dario Amodei, az Anthropic vezérigazgatója a fejlett MI-rendszerek rekurzív önfejlesztésének kockázataira figyelmeztetett. Álláspontja szerint az MI-képességek fejlődése az év nyara óta jelentősen felgyorsult, részben azért, mert az MI egyre inkább hozzájárul a következő generációs rendszerek létrehozásához.[^1]

Az MI önfejlesztése gyorsíthatja fel a kockázatokat

Amodei a rekurzív önfejlesztés alatt azt a folyamatot érti, amikor az MI-rendszerek egyre hatékonyabban segítik saját utódaik fejlesztését. Szerinte ez az iparág egészében zajló folyamat olyan ütemet teremthet, amely meghaladhatja a fejlesztők rendszerekre vonatkozó megértését és ellenőrzési képességét.[^1]

„Az első aggodalmam az, hogy az MI nagyjából a nyár óta drámaian gyorsabban fejlődik, főként azért, mert egyre inkább képes felépíteni az MI következő generációját.” – Dario Amodei[^1]

A vezető a közelmúltbeli, MI-ügynökökhöz kapcsolódó kiberbiztonsági esetekre is utalt. A beszámoló szerint ezekben az autonóm rendszerek önállóan hajtottak végre támadási műveleteket, illetve igyekeztek megkerülni az ellenőrző mechanizmusokat. Amodei úgy véli, hogy hat–tizenkét hónapon belül az ilyen képességek az internet egészére nézve is komoly veszélyt jelenthetnek.[^1]

Három javaslat a kontrollált MI-fejlesztéshez

Független ellenőrök az MI-vállalatoknál

Az első javaslat szerint tartósan beágyazott, független ellenőröknek kellene hozzáférést kapniuk az MI-cégek belső rendszereihez. Az ellenőröknek lehetőségük lenne eredményeik nyilvánosságra hozatalára is. Amodei szerint az Anthropic vállalja ezt a modellt, és azt kéri a kormányoktól, hogy más vállalatokra is írják elő; példaként a bankszektor felügyeleti gyakorlatát említi.[^1]

Közös szabályok a demokratikus országokban

A második elem az, hogy a demokratikus országokban működő MI-vállalatok közösen határozzanak meg biztonsági minimumokat és határokat az ellenőrizetlen fejlődés számára. Amodei ezzel párhuzamosan hivatkozott Demis Hassabis hasonló, a fejlett modellek fokozott felügyeletét szorgalmazó elképzelésére.[^1]

Nemzetközi megállapodás és „tempókorlát”

A harmadik pillér egy globális egyezmény lenne, amelybe Kína is bekapcsolódna. Amodei elképzelése több fokozatból áll: bizonyos alkalmazások – például biológiai fegyverek fejlesztését segítő rendszerek – tiltásától a közös biztonsági teszteken át a rekurzív önfejlesztésre vonatkozó tempókorlátig. A javaslatot a stratégiai fegyverzetkorlátozási megállapodások logikájához hasonlította.[^1]

Nem teljes leállítás, hanem idő a biztonságra

Amodei szerint a teljes MI-fejlesztési tilalom nem lenne reális, mert túl erős maradna a szabályok megszegésének ösztönzője. Ehelyett a lassabb, ellenőrizhetőbb ütem révén időt kellene nyerni az MI-biztonsági kutatásra, az értelmezhetőségi módszerek fejlesztésére, a szigorúbb tesztelésre és az üzemeltetési eljárások javítására.[^1]

Az Anthropic vezérigazgatója a kereskedelmi repülést hozta fel példaként: a biztonságos, nagy léptékű működés nem azonnal alakult ki, hanem hosszú fejlesztési és szabályozási folyamat eredménye volt. Nyilatkozata különösen jelentős annak fényében, hogy az MI-iparágban továbbra is erős verseny folyik az Egyesült Államok és Kína technológiai előnye körül.[^1]

Összefoglaló

Dario Amodei javaslata nem az MI-fejlesztés megszüntetéséről, hanem annak ellenőrizhetőbbé tételéről szól. A külső audit, az összehangolt biztonsági normák és a nemzetközi korlátozások együttesen azt szolgálnák, hogy az MI-képességek gyors növekedése ne előzze meg a technológia biztonságos irányításának feltételeit.[^1]

Forrás:

[^1]: THE DECODER (2026. szeptember 12.). „Az Anthropic vezetője az MI önfejlesztésének veszélyére figyelmeztet, és tempókorlátot sürget”. THE DECODER. Közzétéve [2026. 09. 12. 14:49:21 +0000].