Alignment (igazítás)
Annak biztosítása, hogy egy AI-rendszer valóban azokat a célokat szolgálja, amelyeket a fejlesztők és felhasználók szánnak neki — ne optimalizáljon félrevezetően, ne tegyen kárt.
Analógia
Mint amikor egy alkalmazottat nem a kívánt végeredményre, hanem a közbülső mutatóra mérsz: a metrikát javítani fogja, de nem feltétlenül azt, amit tényleg akarsz.
Miért fontos?
Az alignment probléma nem science fiction: kisebb formában minden üzleti AI-rendszer tervezésekor felmerül. Ha az AI egy metrikát optimalizál (pl. kattintás), de a valódi célt (pl. ügyfél-elégedettség) figyelmen kívül hagyja, az alignment hibája áll fenn. A governance-gondolkodás alapfogalma.
Hogyan működik?
Az igazítás a rendszer céljai, a megadott utasítások és az emberek tényleges szándéka közötti kapcsolat kialakításáról szól. A fejlesztők ezt több rétegben próbálják kezelni: feladatpéldákkal tanítják a kívánatos viselkedést, értékelik a válaszokat, korlátokat állítanak be, és figyelik a használat közbeni hibákat. A célokat azonban mindig valamilyen mérhető jel képviseli. Ha ez a jel csak közelíti a valódi célt, a rendszer a mérőszámot javíthatja úgy is, hogy az emberek számára fontos eredmény romlik.
A hétköznapi használatban ilyen kérdés merül fel, amikor egy asszisztensnek gyorsan kell ügyet megoldania, de a rövid válasz nem feltétlenül a legjobb ügyfélélmény. A jó beállítás megadja a feladat határait, a siker feltételeit és a bizonytalanság kezelését. A működést valós példákkal kell ellenőrizni, különösen akkor, ha a rendszer eszközöket használ vagy döntésre hat. Az igazítás nem egyszeri kapcsoló, hanem tervezési és felülvizsgálati feladat.
Példa
Egy belső kereső asszisztensnél a csapat azt is ellenőrzi, hogy a válasz pontosan idézi-e a szabályzatot, és jelzi-e, ha nincs elegendő forrás, nem csupán azt, hogy gyorsan válaszol.
Gyakori tévhit
Az igazítás nem merül ki abban, hogy a modell minden felhasználói kérést teljesít. A kívánt viselkedéshez biztonsági, pontossági és feladatbeli célokat is össze kell hangolni.