In-Context Learning (kontextuson belüli tanulás)
Az a képesség, amellyel a modell a promptban megadott példák és utasítások alapján alkalmazkodik egy adott feladathoz — anélkül, hogy a belső súlyai frissülnének.
Analógia
Mint amikor egy kolléga megkap egy rövid briefinget egy feladatról, és ahhoz igazítja a munkastílusát — anélkül, hogy új képesítést kellene szereznie.
Miért fontos?
Ez a modern LLM-ek egyik legfontosabb tulajdonsága: nem kell újratanítani ahhoz, hogy másképpen viselkedjen. Egy jól összerakott rendszer-prompt vagy néhány példa elegendő a kívánt viselkedés eléréséhez. Ez az alapja a hatékony promptolásnak és a few-shot technikáknak.
Hogyan működik?
A modell a kérés szövegéből, a megadott háttérből és a példákból következtet arra, milyen műveletet várunk tőle. Egy példa megmutathatja a bemenet és a kívánt kimenet formáját; több példa segíthet észrevenni a közös mintát. A rendszer ezt a mintát a jelenlegi válasz létrehozásakor alkalmazza. A tanult képesség ilyenkor csak az adott kontextusban irányítja a választ, a modell tartós paraméterei nem íródnak át.
A chatben ez gyakran úgy jelenik meg, hogy egy rövid instrukció után a modell egy új dokumentumot is a kívánt stílusban dolgoz fel. A példák akkor hasznosak, ha világosan képviselik az elvárt formát, és nem mondanak ellent egymásnak. A kontextus hossza, a példák minősége és a feladat nehézsége korlátozza az eredményt. Ha a beszélgetés véget ér vagy a minta kikerül a bemenetből, az alkalmazkodás jellemzően nem marad meg későbbi alkalmakra.
Példa
Egy szerkesztő megad két korábbi termékleírást és kéri, hogy az új változat ugyanazt a szerkezetet kövesse; a modell a mintákból következtet a kért tagolásra.
Gyakori tévhit
A kontextuson belüli tanulás nem jelenti a modell újratanítását. A példák az aktuális válaszhoz adnak iránymutatást, a belső súlyok változatlanok maradnak.