Hallucináció
Amikor az AI magabiztos hangon, de tényszerűen hibás választ ad.
Analógia
Olyan, mint egy kolléga, aki mindig magabiztosnak tűnik – akkor is, ha éppen kitalálja. A magabiztosság nem egyenlő a pontossággal.
Miért fontos?
A leggyakoribb AI-hibamód. Ellenőrzési szokások nélkül a kitalált tények bekerülhetnek publikált anyagokba, döntésekbe vagy kódba.
Hogyan működik?
A nyelvi modell a kapott szöveg és a tanulás során elsajátított minták alapján egymás után választja ki a következő tokeneket. Nem ellenőrzi automatikusan egy külső tényadatbázisban, hogy minden mondata igaz-e. Ha a kérdés hiányos, a téma ritka, vagy a minták alapján valószínűnek tűnik egy válasz, a rendszer hihető részleteket alkothat akkor is, ha nincs hozzá megbízható alapja. A folyékony megfogalmazás ezért nem bizonyíték.
A mindennapi használatban ez felbukkanhat kitalált hivatkozásként, téves dátumként, rosszul összefoglalt dokumentumrészletként vagy hibás kódként. Kockázatát csökkenti, ha a feladatban megadod a forrásanyagot, kéred a bizonytalan pontok jelzését, és a fontos állításokat visszakeresed. Hosszabb munkánál ellenőrizd azt is, hogy a válasz valóban a megadott anyagra támaszkodik-e. A modell tud segíteni az ellenőrzésben, de a döntő állításoknál szükség lehet független forrásra vagy szakértői átnézésre.
Példa
Egy csapat belső útmutatót készít, és megkéri az asszisztenst, hogy keresse ki a szabadságigénylés határidejét. A modell egy hihető, de nem szereplő határidőt ír; a munkatárs ezért ellenőrzi a hivatkozott szabályzatot.
Gyakori tévhit
A magabiztos, részletes válasz nem feltétlenül megbízható: a modell valószínűségek alapján állít elő szöveget, ami nem garantálja annak igazságát.