Leckék ezen a szinten
Olvasási idő: 6 perc
Hogyan működik?
Az LLM nem „ért”, csak következtet
A nagy nyelvi modellek nem tényeket tároló adatbázisok és nem rendelkeznek emberi értelemben vett megértéssel. Működésük alapja a valószínűség: a korábbi tokenek alapján megjósolják a statisztikailag leginkább odaillő folytatást. Ez egyszerre adja az erejüket és a hibáik forrását.
Nem „érti”
Nincs tudat, szándék vagy stabil világmodell.
Token-alapú
Valószínűséget számol, nem igazságot keres.
Ebből jön minden
Stílus, összegzés, de hallucináció is.
Az egyszerű modell egy mondatban
Ha ezt a modult csak egyetlen mondattal kellene összefoglalni, akkor így hangzana: az LLM nem azért ad hasznos választ, mert „megértette" a világot úgy, mint egy ember, hanem azért, mert rendkívül nagy mennyiségű nyelvi mintából statisztikailag valószínű folytatást tud előállítani.
Ez elsőre csalódásnak hangozhat – de valójában ebből jön az ereje is:
- → ezért tud gyorsan fogalmazni,
- → ezért tud jól összefoglalni,
- → és ezért tud néha magabiztosan tévedni.
A modul további része ezt az egy mondatot bontja ki részletesen.
A nagy illúzió
A folyékony válasz nem azonos a megértéssel.
Amikor a ChatGPT-vel beszélgetsz, az emberi agy ösztönösen azt feltételezi, hogy a gép „érti”, amit kérdezel tőle. Ez a legnagyobb és legveszélyesebb illúzió az AI-használatban.
Az LLM nem digitális orákulum és nem keres „betonbiztos igazságot”. Valójában egy rendkívül fejlett automatikus kiegészítő: a kérdésed alapján kiszámolja a legvalószínűbb következő tokent, majd az azt követőt, és így tovább.
Ezért zseniális
- Nyelvi mintázatokból kiválóan ír, összefoglal és formáz.
- Stílust utánoz, vázlatból strukturált anyagot készít.
- Gyorsan szintetizál sok forrásból.
Ezért veszélyes
- Valószínűséget keres, nem igazságot.
- Magabiztos hallucinációt tud generálni.
- Logikai láncban tévedhet, ha a prompt rossz.
Mielőtt belemerülünk a motorba
Nem kell matematikusnak lenned, hogy jól használd
Nem az a cél, hogy neurális hálózati kutatóvá válj. Ehhez a modulhoz nem kell képleteket tudnod, és nem kell mélytanulási modellt építened.
A cél sokkal gyakorlatibb: értsd meg annyira a motor logikáját, hogy előre tudd, hol lesz erős, és hol fog hibázni.
- → miből dolgozik a modell,
- → hogyan állít elő választ,
- → és miért nem garantálható a pontosság.
Az LLM működésének fizikája
Egyszerű mechanika, gyakorlati következményekkel.
Tokenizáció
A modell nem szavakat lát, hanem tokeneket: apró szövegrészeket, amelyekre bontja a bemenetet.
Következmény: a tokenek száma határozza meg a költséget és a kontextus méretét.
Embedding
Minden token számsorrá alakul, amely a „jelentés” helyét jelöli egy többdimenziós térben.
Következmény: a hasonló fogalmak közel kerülnek egymáshoz, ezért működik a hasonlat és átfogalmazás.
Attention / Transformer
A modell a teljes szöveg fontos részeire „figyel”, és súlyozza, mi mihez kapcsolódik.
Következmény: jól kezeli a kontextust, de a túl hosszú input szétszórja a figyelmet.
Token prediction
Valószínűségi eloszlásból kiválasztja a következő tokent, és ismétli a folyamatot.
Konklúzió: a modell következtet, nem bizonyít — ezért erős és ezért tévedhet.
Magyar nyelv és tokenköltség
Amit a kontextus és a költség előtt érdemes tudni.
A modellek nem minden nyelvet azonos hatékonysággal kezelnek. Mivel a magyar agglutináló nyelv, ugyanaz a tartalom gyakran több tokenbe kerül, mint angolul.
Három gyakorlati következmény
- → Drágább lehet az API-használat.
- → Gyorsabban fogy a kontextusablak.
- → Hosszú magyar szövegnél nőhet a pontatlanság esélye.
Token kalkulátor
0
Karakter
0
Szó
~0
Token (becslés)
$0.000000
Becsült költség
Claude Sonnet
⚠️ Ez egy becslés (1 token ≈ 3.5 karakter magyar szövegnél). A pontos tokenszám modellenként eltér.
Kontextusablak – a rövidtávú memória
Nem megértés, hanem munkamemória.
A context window a modell rövidtávú memóriája: prompt, feltöltött fájlok, korábbi válaszok — amit az adott pillanatban egyben átlát. Ha túlléped, elkezdi „elfelejteni” a beszélgetés elejét.
A nagyobb kontextus nem egyenlő garantált megértéssel.
Lost in the Middle
A modellek jobban emlékeznek a kontextus elejére és végére, mint a közepére. A hosszú promptoknál a sorrend teljesítménykérdés.
Tipikus hiba
- Előre leírod a feladatot és kritériumokat.
- Utána beömlesztesz hosszú nyers szöveget.
- A modell a végére fókuszál, és elveszti az eleji instrukciókat.
Jobb megoldás
Kontextus-összehasonlítás (irányadó)
| Modell | Kontextus | Legjobb |
|---|---|---|
| GPT-6 Astra | 1 050 000 | Összetett reasoning, kódolás, kutatás és számítógép-használat |
| GPT-6.1 Sol | 1 050 000 | Összetett feladatok alacsonyabb API-költség mellett |
| Claude Opus 5.5 | 1 000 000 | Hosszan futó agentikus kódolás és tudásmunka |
| Claude Sonnet 5.5 | 1 000 000 | Gyors, általános kódolási és tudásmunka |
| Gemini 4 Argon | 1 048 576 | Összetett kódolás, agentikus, matematikai és tudományos feladatok |
| Grok 4.7 | 500 000 | Kódolás, agentikus feladatok és tudásmunka |
| Llama 4 Scout | 10 000 000 | Kísérleti, lokális futtatás, nyílt ökoszisztéma |
Átvezető
Ebből már látszanak a hibamódok
Mostanra már három fontos dolgot láttál:
- ✓ a modell tokenekkel dolgozik,
- ✓ valószínűséget számol, nem igazságot keres,
- ✓ és a kontextuskezelése korlátozott.
Ebből logikusan következik, hogy bizonyos hibák nem „véletlen balesetek", hanem a működés természetes melléktermékei. A következő rész ezért nem különálló probléma-lista, hanem annak megmutatása, hogy a modell működéséből milyen tipikus tévedések következnek.
Miért hallucinál az AI?
Nem bug, hanem a token-predikció következménye.
A hallucináció nem szándékos megtévesztés és nem is véletlen hiba. A modell nem tényeket ellenőriz — hanem a szövegkörnyezetbe statisztikailag leginkább illő következő tokent keresi. Amikor hiányoznak az adatok, a modell nem azt mondja: nem tudom — hanem valami hihetőt generál. A magabiztos tévedés oka: a tanítási folyamat a helyes jellegű szöveg előállítását jutalmazza, nem a bizonytalanság kifejezését.
Kutatási eredmény
2025-ös kutatások szerint: amikor egy LLM hallucinál, a belső reprezentáció nem üresedik ki — hanem fordul. A modell tudja, hol van a helyes válasz, de valami más felé folytatja a generálást. Ez a next-token predikció természetes következménye.
Faktuális
Kitalált adatok, cikkek, hivatkozások, személyek, amelyek jól hangzanak.
Példa
Nem létező törvénycikk, kitalált kutatási hivatkozás, valódi dátumhoz rendelt hamis adat.
Védekezés: forrásalapú mód (csak a feltöltött dokumentum alapján dolgozz), RAG, Perplexity-alapú ellenőrzés.
Kontextuális
Hosszú promptban összekeveri a szálakat, személyeket, feladatokat — különösen a prompt közepén lévő adatokat.
Példa
Három meetingből rossz feladat-felelős párosítás, vagy két szereplő adatainak összekeverése.
Védekezés: szeparált input (egy feladat = egy prompt), köztes szintézis lépésekkel, a fontos instrukció a prompt elejére és végére kerüljön.
Logikai / számolási
Nyelvi motor, nem számológép. A számítások lépésein tévedhet, és a tévedés minden következő lépésen továbbterjed.
Példa
Hibás százalékszámítás egy pénzügyi elemzésben, rossz Excel-formula önállóan generálva.
Védekezés: Chain-of-Thought (lépésenkénti levezetés) + külső eszköz (Python, Code Interpreter, kalkulátor).
Döntési szabály
A legegyszerűbb védekezési szabály: minél nagyobb a tét, annál kevésbé elég a nyelvi valószínűség — és annál inkább kell forrás, ellenőrzés vagy külső eszköz. A reasoning modellek (például a GPT-6 és a Claude Opus 5.5) csökkentik a logikai hallucinációkat, de a faktuális típust nem szüntetik meg.
Mit jelent mindez a gyakorlatban?
Hat ökölszabály, hogy az LLM valóban jól dolgozzon.
Ne bízz vakon a tényekben.
A task menjen a végére.
Tagolj vizuálisan.
Darabold a komplexitást.
Védekezz a magyar felár ellen.
Logikai feladatnál kényszerítsd lépésről lépésre.
Teszteld magad AI-val
Gyakorlás
A működési logika akkor ül a helyére, ha a saját szavaiddal is el tudod választani a valós képességet a magabiztos hangzású válaszoktól.
Kérdezd meg az AI-t
- →Miért következik a tokenenkénti jóslásból az, hogy az AI néha magabiztosan téved?
- →Hogyan függ össze a kontextusablak, a hallucináció és az, hogy mit bízol rá emberi ellenőrzés nélkül?
Kész prompt
“Tegyél fel nekem 2 ellenőrző kérdést arról, hogyan működik egy nyelvi modell. Ha pontatlanul válaszolok, javíts ki röviden és közérthetően.”
Következő lépés
Most már jöhet a gyakorlati irányítás.
Most már érthető: az LLM nem mindentudó adatbázis, hanem statisztikai valószínűségi motor. A következő lépés nem több elmélet, hanem a gyakorlati irányítás — hogyan promptolj úgy, hogy a modell a lehető legjobban teljesítsen.