RAG
Retrieval-Augmented Generation – olyan technika, ahol az AI válaszadás előtt releváns tartalmakat keres elő egy tudásbázisból.
Analógia
Ahelyett, hogy emlékezetből válaszol, az AI először megkeresi a releváns oldalakat a könyvtáradban, és csak utána válaszol.
Miért fontos?
Az AI válaszai a saját dokumentumaidra épülnek az általános tanítási adatok helyett. Csökkenti a hallucinációt és lehetővé teszi a szakterületre szabott asszisztenseket.
Hogyan működik?
A RAG-rendszer a válasz megfogalmazása előtt külső anyagok között keres. A dokumentumokat előkészítéskor kisebb részekre bontják, majd kereshetővé teszik; a felhasználó kérdéséből is képeznek keresési jeleket. A rendszer ezek alapján kiválaszt néhány kapcsolódó részletet, és a kérdéssel együtt átadja azokat a nyelvi modellnek. A modell így friss vagy szervezetspecifikus forrásokra támaszkodhat anélkül, hogy minden dokumentumot előzetesen be kellene tanítani a paramétereibe.
A hétköznapi asszisztensben a folyamat jellemzően láthatatlan: kérdezel egy kézikönyvről, szabályzatról vagy termékkatalógusról, a rendszer pedig releváns szakaszokat keres és azokból válaszol. A minőség függ a dokumentumok rendezettségétől, a kereséstől és a modell összefoglalásától. Ha rossz részletek kerülnek elő, vagy a forrás nem tartalmazza a választ, az eredmény továbbra is lehet téves. Ezért hasznos a válasz mellett a felhasznált források megjelenítése és ellenőrzése.
Példa
Egy új kolléga megkérdezi a belső asszisztenstől, hogyan kell eszközt igényelni. A rendszer kikeresi az erre vonatkozó folyamatleírást, majd annak lépéseiből készít rövid választ.
Gyakori tévhit
A RAG nem tanítja át automatikusan a modellt, és a visszakeresett forrás sem garantálja, hogy a modell pontosan értelmezi azt.