Emergens képességek
Olyan új képességek, amelyek nagyobb modellekben hirtelen megjelennek, miközben kisebb modellekben még egyáltalán nem láthatók — nem lineárisan fejlődnek a méretnöveléssel.
Analógia
Mint víz felforrásánál: nem melegszik lassan egy kicsit gőzösebbé, hanem egy küszöbhőmérsékleten hirtelen teljesen más halmazállapotba kerül.
Miért fontos?
Ez magyarázza, miért ugrott hirtelen ennyire hasznosabbá a GPT-4, a Claude 3 és társaik az előző generációkhoz képest. Az emergens képességek egyben azt is jelzik, hogy a modellek viselkedése nem mindig jósolható meg előre — ami a biztonság és a tesztelés szempontjából kihívás.
Hogyan működik?
Emergens képességnek azt a viselkedést nevezik, amely nagyobb vagy összetettebb modelleknél válik megfigyelhetővé, miközben kisebb rendszereknél nem látszik ugyanolyan formában. A jelenség értelmezése függ attól, milyen feladatot és milyen mérési módszert választunk. Egy folytonosan javuló részfeladat a mérési küszöb átlépésekor hirtelen sikeresnek tűnhet, noha a fejlődés fokozatos volt. Más esetben a nagyobb modell valóban képes lehet több tanult mintát összekapcsolni olyan feladatban, amelyet kisebb modell nem old meg megbízhatóan.
A felhasználó ezt úgy veheti észre, hogy egy rendszer egyszerű példákon még hibázik, de összetettebb utasításokat már következetesen kezel. Ez nem jelenti azt, hogy minden képesség egyformán megjelenik vagy előre jelezhető a méretből. Új képességeknél ezért külön tesztelni kell a sikert, a hibamódot és a feladat határait. A fogalom a modellviselkedés leírására hasznos, de önmagában nem magyarázza meg, milyen belső mechanizmus hozta létre az adott teljesítményt.
Példa
Egy csapat azt tapasztalja, hogy egy nagyobb modell már képes több táblázatsort összevetni és rövid következtetést megfogalmazni, míg a kisebb változat csak egyes sorokat tud értelmezni.
Gyakori tévhit
Az emergens képesség nem bizonyítja, hogy a modellnek emberi értelemben vett tudata vagy szándéka alakult ki. A kifejezés megfigyelt teljesítményváltozásra utal, nem annak emberi magyarázatára.