Hallucináció-mentes AI-kódolás: 6 gyakorlati technika fejlesztőknek

Az AI-modellek hallucinációja 2026-ban már nem az a látványos probléma, ami néhány éve volt – de nem tűnt el, csak áttolódott. Az egyszerű kérdésekre adott válaszoknál a hibaarány a legjobb modelleknél egy-két százalék környékére csökkent. A gond ott van, ahol a legtöbben ma használják az AI-t: az ágenses, többlépcsős munkafolyamatoknál és a kódgenerálásnál.

A hallucinációs arány a nyílt végű generálásnál 15–25%, a többlépcsős ágenses eszközhívási (tool call) láncoknál pedig akár 20–40% – ez már nem elméleti probléma, hanem napi szintű mérnöki kockázat.

Ez azért kritikus különbség, mert egyetlen hibás mondat egy chatbotban csak bosszantó – egy hibás csomagnév egy telepítési parancsban viszont már súlyos biztonsági incidens.

6 gyakorlati védekezési stratégia a hallucináció ellen

1. Szabadon lebegő tudás helyett lehorgonyzott kontextus

A legrégebbi és máig leghatékonyabb megközelítés a válasz forráshoz kötése (RAG – Retrieval-Augmented Generation). Az elv egyszerű: ne a modell belső, statisztikai emlékezetére hagyatkozz, hanem adj mellé konkrét, ellenőrzött dokumentumokat.

A csavar viszont az, hogy ez önmagában nem elég. A Gartner mérése szerint a vállalati AI-válaszok 52 százaléka tartalmazott kitalált információt, amikor a RAG kormányzatlan, karbantartatlan adatforrásokból dolgozott. Vagyis a hallucináció ilyenkor nem modellhiba, hanem kontextushiba: a rendszer pontosan azt adja vissza, amit kap – ha az elavult vagy ellentmondásos, a kimenet is az lesz. A forrásadatok gondozása legalább annyira számít, mint maga a keresési (retrieval) réteg.

2. Rétegzett védelem, ne egyetlen csodafegyver

A gyakorlati tapasztalat szerint nem egyetlen nagy megoldás hoz eredményt, hanem sok kicsi egymásra pakolva. A rendszerprompt, a forráshoz kötés és a valós idejű monitorozás együtt alkalmazva 71–89 százalékkal csökkentette a hallucinációs arányt a védelem nélküli rendszerekhez képest.

Érdemes szétválasztani a lépéseket:

• Külön réteg végzi az adat lekérését,
• külön réteg a következtetést (reasoning),
• és egy harmadik, független réteg dönt arról, hogy az adott válasz egyáltalán megjelenhet-e a felhasználó előtt.

Ez a folyamat valamivel lassabb, cserébe a hiba több ellenőrzési ponton is fennakadhat.

3. Több független futás összevetése (Self-consistency)

Ha ugyanazt a kérdést több ágens vagy több futás dolgozza fel egymástól függetlenül, és az eredmények eltérnek, az önmagában jelzés. Az egyezés nem jelent automatikus garanciát az igazságra, az eltérés viszont majdnem mindig egy gyanús pontra mutat rá.

Ez a self-consistency (önkonzisztencia) alapú megközelítés különösen jól működik ott, ahol egyetlen válasz helyességét nehéz automatikusan ellenőrizni, de a válaszok szórása jól mérhető.

4. Kódolásnál a csomagnév-ellenőrzés kötelező

Itt jön a képbe a kódolás legveszélyesebb hallucinációtípusa. A modellek rendszeresen kitalálnak nem létező könyvtárneveket – és ez nem véletlenszerű zaj.

A USENIX Security vizsgálata (16 modellt és 576 ezer kódmintát elemezve) azt találta, hogy a kitalált csomagnevek:

• 38%-a két valós csomag összemosásából születik,
• 13%-a elgépelés-variáns (typosquatting jellegű),
• 51%-a pedig tiszta, légből kapott fabrikáció.

A probléma súlyát az adja, hogy ezek a nevek megismételhetők: azonos promptot tízszer lefuttatva a hallucinált csomagnevek 43 százaléka minden egyes alkalommal előjött.

Erre épül a slopsquatting nevű támadási forma: a támadó lefuttat néhány tucat promptot, kigyűjti a visszatérő hallucinált neveket, és regisztrálja őket a hivatalos csomagtárolóban (pl. npm, PyPI), mielőtt bárki más tenné.

Valós példa: 2026 januárjában egy Aikido Security-kutató rábukkant egy react-codeshift nevű, nem létező npm-csomagra, amelyet a modell két valós eszköz – a jscodeshift és a react-codemod – összemosásából alkotott. A név AI által generált agent skill fájlokon keresztül 237 kódprojektbe került be, és az ágensek naponta próbálták telepíteni. A kutató saját maga regisztrálta a csomagot, megelőzve a rosszindulatú támadókat.

A védekezéshez minden telepítési parancsnál ellenőrizni kell a csomagnevet a valódi jegyzékben (registry), még a parancs lefutása előtt. A hagyományos typosquatting-védelem itt nem segít, mert a hallucinált nevek teljesen új sztringek, nincs mihez hasonlítani őket.

5. Kényszerítés az ágens hurokban (In-loop protection)

A slopsquatting-kutatások legfontosabb tanulsága, hogy az utólagos kódskennelés késő. A védelemnek az ágens működési ciklusán (agentic loop) belül kell elhelyezkednie, még mielőtt a telepítési parancs lefutna a terminálban.

Ez különösen kritikussá vált a legújabb célzott támadások fényében:

A HalluSquatting nevű, 2026 júliusában publikált kutatás bemutatta, hogy speciális, átvihető szövegbeviteli mintákkal az ágens rávehető egy konkretizált, a támadó által kiválasztott erőforrás hallucinálására. Az így automatikusan letöltött tartalomba rejtett indirekt prompt-befecskendezés (indirect prompt injection) pedig azonnali, jogosulatlan kódfuttatáshoz (RCE) vezethet.

6. Modellválasztás kalibráció, nem pedig pontszám alapján

Végül egy szemléletbeli hiba, amit sokan elkövetnek: a pontosabb modell nem automatikusan megbízhatóbb modell.

Az AA-Omniscience benchmark adatai szerint létezik olyan élvonalbeli modell, amely a pontossági rangsorban vezet, a megbízhatósági indexen viszont jóval hátrébb végez – egyszerűen azért, mert bizonytalanság esetén tippel ahelyett, hogy megtagadná a választ. Ágenses rendszereknél a „nem tudom” gyakran a legértékesebb és legbiztonságosabb kimenet.

Mit kell elfogadnunk?

A hallucináció teljes megszüntetése nem reális cél. A hallucináció ugyanannak a generatív képességnek a mellékterméke, amitől a modellek egyáltalán hasznosak – a teljes kiiktatása a modell kreativitását és használhatóságát is visszavágná.

A gyakorlati kérdés tehát nem az, hogy nullára vihető-e a hibaarány, hanem az, hogy a rendszer képes-e elkapni a hibát ott, ahol az a legjobban fájna. Egy hibás összefoglaló kellemetlen. Egy hibás npm install parancs egy automatizált CI/CD pipeline-ban már egy teljesen más kategória.