Grounding (tényekhez rögzítés)
Az a megközelítés, amikor az AI válaszát külső, ellenőrizhető forrásokhoz kötjük. A cél, hogy a modell ne fejből improvizáljon, hanem a tényleges adatokra támaszkodjon.
Analógia
Mint amikor egy elemző nem emlékezetből mond véleményt, hanem mindig a forrásra hivatkozik, és csak azt állítja, ami az aktában szerepel.
Miért fontos?
Ez csökkenti a hallucinációt és növeli a döntéstámogató használat megbízhatóságát. Üzleti környezetben különösen fontos, ha szerződésekből, belső dokumentumokból vagy aktuális webforrásokból kell dolgozni.
Hogyan működik?
A grounding során a rendszer a válaszhoz felhasználható külső bizonyítékot ad a modellnek, vagy egy ellenőrizhető forrásban keres. Ilyen lehet egy belső szabályzat, feltöltött szerződés vagy aktuális adatokat tartalmazó oldal. A modell ezekből kiválasztott részleteket értelmezi, majd a kért választ ezekhez köti. A megközelítés csak annyira erős, amennyire a forrás releváns, pontos és megfelelően friss; a forrás félreértelmezését önmagában nem akadályozza meg.
A gyakorlatban akkor találkozunk vele, amikor egy asszisztens dokumentum alapján válaszol, vagy a válasz mellett megmutatja, honnan származik az állítás. A felhasználó ilyenkor összevetheti a megfogalmazást az eredeti részlettel, és észreveheti, ha a következtetés túlmegy azon. A hivatkozás hasznos ellenőrzési pont, nem minőségi pecsét: a rendszer rossz helyre is hivatkozhat, vagy a forrás csak részben támasztja alá a választ. Fontos kérdés, hogy a kapott bizonyíték valóban lefedi-e a kérést.
Példa
Egy munkatárs megkérdezi, hány nap szabadság vihető át a következő évre; az asszisztens a belső szabályzat megfelelő bekezdését idézi, hogy a választ össze lehessen vetni az eredetivel.
Gyakori tévhit
A hivatkozás nem bizonyítja automatikusan, hogy a válasz igaz. A forrás lehet elavult vagy nem odaillő, és a modell félre is értelmezheti.