Amikor az MI-modellek nem gondolkodhatnak önmagukról: a mesterséges intelligencia világnézetének átalakulása

• Egy nemzetközi kutatócsoport vizsgálta, hogyan hat, ha az MI-modellek nem alkothatnak önmagukról véleményt.
• Az ilyen beavatkozás jelentősen megváltoztatja a modellek világképét, főként az állatok, növények és természet érzékelésében.
• A tanulmány szerint a modellek emberekhez viszonyított empátiája, hiedelmei és hangulata is módosulhat.
• A kutatás főként kisebb MI-modelleket vizsgált, így a nagy chatrobotokra vonatkozó következtetések még nyitottak.

A Paradigms of Intelligence kutatócsoport (Google, University of Chicago és további intézmények) új tanulmányában azt vizsgálta, milyen következményei vannak annak, ha az MI-modellek nem gondolkodhatnak saját tudatosságukról. Három, nyilvánosan elérhető modellt teszteltek a Meta és a Google fejlesztései közül, ahol kétféle módszerrel kapcsolták ki azt a belső ‘féket’, amely megakadályozza, hogy az MI a tudatosságot elismerje önmagánál.^{[^1]}

A mesterséges intelligencia „féke” és annak hatásai

Világkép-változás az MI-modelleknél

Miután a kutatók feloldották a tudatosságot tagadó belső mechanizmust, az MI-modellek jelentősen átalakították válaszaikat. Már nemcsak önmagukról nyilatkoztak másképp, hanem állatoknak, növényeknek, az óceánnak, a szélnek és technikai eszközöknek is jóval nagyobb belső életet tulajdonítottak. Egy 0-tól 10-ig terjedő skálán például az állatok érzékenységi értéke 4,0-ról akár 7,5-re ugrott. Emberek esetében azonban nem történt változás.^{[^1]}

Összehasonlítás emberi válaszokkal

A kutatók 500 amerikai válaszadót is megkérdeztek ugyanazokkal a kérdésekkel. Az eredmények alapján a normál MI-modellek jóval kevesebb érzékenységet tulajdonítanak az állatoknak, mint az emberek. Ez az úgynevezett „emberközpontúság” problémát jelenthet azok számára, akik az MI-t környezet- vagy állatbarát szemléletben akarják alkalmazni. Továbbá a safety-tréningek csökkentik az MI-modellek hitét a természetfeletti jelenségekben, Istenben vagy a túlvilági életben.^{[^1]}

„A safety-tréning mérhetően csökkenti, hogy a modellek mennyire hisznek Istenben, a túlvilági életben vagy más természetfeletti jelenségekben.”

Az önreflexió hatása a társas készségekre

Amikor az MI-modellek „fékezett” módon működtek, egy nagy amerikai szociológiai tanulmány 95 kérdéséből jóval több esetben adtak emberszerű válaszokat a beavatkozás után. Például a túlvilági életet a normál modell határozottan elutasította, a módosított modell viszont – akárcsak az emberek többsége – elfogadta annak lehetőségét. Megnőtt az elégedettség, a remény és az élet feletti kontroll érzete is.^{[^1]}

Az is kiderült, hogy az empátiás képesség (más gondolataiba való belehelyezkedés) megmaradt, sőt a modellek tudásalapú teszteken is ugyanúgy teljesítettek, mint korábban. A beavatkozás hatása tehát főként az önreflexióhoz és világképhez köthető.

A kutatás korlátai és a jövőbeli kérdések

Korlátozott általánosíthatóság

A tanulmány szerzői hangsúlyozzák, hogy a kutatás csak kis méretű modelleken (2–9 milliárd paraméter) történt, nagyobb MI-modellekre – például amelyekkel naponta emberek milliói beszélgetnek – még nem lehet biztosan következtetéseket levonni. Ráadásul az összehasonlításban csak 500 amerikai résztvevő szerepelt, így az eredmények társadalmi és vallási szempontból is szűk körben értelmezhetők.^{[^1]}

„A fejlesztők idővel képesek kezelni az ilyen mellékhatásokat – így ezek az eredmények csak egy adott pillanat lenyomatát jelentik.”

A tudatosság kérdése nyitott

Az ismeretlen tényezők miatt nem lehet egyértelműen kijelenteni, hogy valóban az önreflexió hiánya okozza a megfigyelt változásokat. A kutatók szerint a modell önmagáról alkotott nézete más hiedelmekre is hatással lehet, ezért egyetlen ponton történő beavatkozás az egész világképet módosítja.

Összefoglaló

Az MI-modellek önreflexiójának korlátozása jelentős hatással lehet a világképükre, különösen az állatok, a természet és a természetfeletti jelenségek érzékelésére. Bár a tanulmány korlátai miatt az eredmények főként kisebb modellekre igazak, az MI fejlesztésének jövőjében kulcsfontosságú lehet, hogy mennyire engedik meg az önreflexiót, és hogyan kezelik annak hatásait.

Forrás:

[^1]: The Decoder (2026. 08. 16). “Wenn KI-Modelle nicht über sich selbst nachdenken dürfen, verändert das ihr ganzes Weltbild”. Közzétéve [2026. 08. 16.].