Magas kockázatú AI-rendszer
Az EU AI Act szerinti kockázati kategóriába tartozó rendszer, amelynek használata jelentős hatással lehet emberek jogaira vagy biztonságára.
Analógia
Mint egy veszélyességi besorolású munkafolyamat: a nagyobb lehetséges hatás alaposabb ellenőrzést és világos felelősséget kíván.
Miért fontos?
A besorolás meghatározhatja, milyen kockázatkezelési, dokumentációs, adatkezelési és emberi felügyeleti követelményeket kell figyelembe venni.
Hogyan működik?
A magas kockázatú AI-rendszer az EU AI Act kockázati kategóriája. A besorolás nem pusztán a modell technikai összetettségétől függ, hanem attól is, mire használják és milyen hatása lehet az emberekre. A 2024/1689 rendelet meghatározott területekhez és feltételekhez kötött szabályokat ír le. Egy rendszer kategóriáját ezért a konkrét cél, az érintett folyamat és a szereplők feladatai alapján kell vizsgálni. A magas kockázat nem azt jelenti, hogy a rendszer biztosan ártalmas, hanem azt, hogy jelentős következmények miatt szigorúbb követelmények merülhetnek fel.
Az ilyen rendszereknél a kockázatkezelés, a megfelelő adatok, a dokumentálás, a nyomon követhetőség és az emberi felügyelet kiemelt szerepet kaphat. A követelmények részletei attól függenek, hogy a szervezet fejlesztőként, forgalmazóként vagy alkalmazóként jár-e el. A besorolás téves megítélése hiányos felkészüléshez vezethet, ezért a jogszabályi fogalmakat az adott használati esettel együtt kell értékelni. A technikai teszt önmagában nem rendezi a felelősségi kérdéseket. A szervezetnek meg kell őriznie azt is, hogyan jutott a besorolási és kockázatkezelési döntésekre.
Példa
Egy szervezet azt vizsgálja, hogy a jelentkezők előszűrésére használt rendszer a saját célja és működése alapján milyen besorolás alá eshet.
Gyakori tévhit
A „magas kockázatú” jogi kategória nem egyszerűen a modell hibaarányát vagy technikai veszélyességét jelöli.