Bias (torzítás)
Szisztematikus hiba a modell kimenetében, amelyet a tanítóadatok, a tréningmódszer vagy a mérési logika egyoldalúsága okoz. Nem véletlenszerű hiba — ismételten, azonos irányba térít el.
Analógia
Mint egy tárgyaló teremberendezés, ahol az egyik oldal hangosabb: a döntések nem feltétlenül az érvek minőségétől, hanem a strukturális előnytől függnek.
Miért fontos?
Üzleti AI rendszereknél a bias komoly jogi, etikai és reputációs kockázatot jelent: ha egy felvételi szűrő, hitelbírálati vagy ügyfélszegmentációs rendszer rendszeres torzítást visz be, az egyenlő bánásmód követelményébe ütközhet. A governance és a compliance kontextusban kulcsfogalom.
Hogyan működik?
A torzítás több ponton bekerülhet egy AI-folyamatba. A tanítóadatok tükrözhetik a múlt egyenlőtlenségeit vagy hiányait; a címkézők eltérő ítéleteket adhatnak; a kiválasztott mérőszám pedig előnyben részesíthet bizonyos eseteket. A modell ezeket a mintákat megtanulhatja, majd új helyzetekben következetesen hasonló irányú hibát produkálhat. A torzítás feltárásához ezért nem egyetlen összesített pontszámot kell nézni, hanem releváns csoportok és körülmények szerint kell összevetni a kimeneteket.
A hétköznapi használatban torzítás érintheti például az önéletrajzok rangsorolását, a beszédfelismerést eltérő akcentusoknál vagy a képleírást különböző fényviszonyok között. A hiba nem feltétlenül látszik egy átlagos példán, ezért változatos tesztadatok és az érintett felhasználók visszajelzése szükséges. A javítás nem mindig a tanítóadatok egyszerű kiegyensúlyozása: a feladat meghatározását, az adatgyűjtést, a mérési módot és a döntési folyamatot együtt kell megvizsgálni.
Példa
Egy önéletrajzokat összefoglaló eszköz következetesen kihagy bizonyos szakmai tapasztalatokat, mert a korábbi mintákban azokat ritkán írták le az általa ismert kifejezésekkel.
Gyakori tévhit
A modelltorzítás nem kizárólag szándékos előítéletből eredhet. Hiányos adatok, korábbi döntések és a mérés módja is létrehozhat ismétlődő, hátrányos hibát.