Retrieval (visszakeresés)
A RAG rendszerek azon lépése, amikor a modell válaszadás előtt megkeresi a releváns dokumentumdarabokat. A generálás minősége sokszor ezen áll vagy bukik.
Analógia
Mint egy könyvtáros, aki először összegyűjti a releváns forrásokat, és csak utána adja át őket az elemzőnek.
Miért fontos?
Ha rossz forrásokat találunk meg, a modell akkor is gyenge választ ad, ha maga a generátor erős. Nem-fejlesztőként ez segít megérteni, hogy a tudásbázis-probléma gyakran nem a modellben, hanem a visszakeresésben van.
Hogyan működik?
A visszakeresés során a rendszer a kérdéshez illő adatokat keresi ki egy előkészített gyűjteményből. A keresés történhet pontos szavak, hasonló jelentésű kifejezések vagy ezek kombinációja alapján. A jelöltekből a rendszer rangsort készít, és a leginkább relevánsnak ítélt részleteket továbbadja a válasz összeállításához. A siker azon is múlik, hogyan lett az adatgyűjtemény indexelve, milyen kérdést kapott a kereső, és megfelelően rangsorolta-e a találatokat. A generáló modell nem tudja pótolni a hiányzó vagy rosszul kiválasztott bizonyítékot.
A felhasználó jellemzően akkor találkozik ezzel, amikor egy belső tudásbázisból kérdez, és az asszisztens dokumentumrészleteket keres elő a válasz előtt. Ha a kérdés más szavakat használ, mint a dokumentum, a jelentésalapú keresés segíthet; pontos azonosítók vagy kifejezések esetén a szó szerinti keresés lehet fontosabb. A találatok forrását és relevanciáját ellenőrizni kell, mert a hasonló témájú részlet nem feltétlenül válaszolja meg a kérdést. A keresés minősége külön fejleszthető a választ megfogalmazó modellétől.
Példa
Egy új munkatárs azt kérdezi, hogyan kell jelezni a távmunkát; a tudásbázis az idevágó szabályzatrészt keresi ki, és ezt adja át az asszisztensnek az összefoglaló elkészítéséhez.
Gyakori tévhit
A jelentésalapú visszakeresés sem érti automatikusan a dokumentumok igazságtartalmát. Hasonló témájú, de a kérdésre nem válaszoló részletet is előre sorolhat.