Modelllopás
Egy AI-modell vagy annak működését utánzó változat jogosulatlan megszerzése, lemásolása vagy rekonstruálása.
Analógia
Mint amikor valaki sok próbakérdéssel megpróbálja lemásolni egy zárt gép működését anélkül, hogy a tervrajzhoz hozzáférne.
Miért fontos?
A modelllopás veszélyeztetheti a fejlesztésbe fektetett munkát, és érzékeny képességeket tehet hozzáférhetővé illetékteleneknek.
Hogyan működik?
Modelllopásról akkor beszélünk, ha valaki jogosulatlanul hozzájut egy AI-modellhez, lemásolja annak fájljait, vagy hozzáférési lehetőségeket kihasználva megpróbálja rekonstruálni a működését. Zárt rendszer esetén egy támadó sok bemeneti kérdést küldhet, és a válaszokból készíthet egy hasonlóan viselkedő modellt. Ez nem mindig jelenti az eredeti modell teljes megszerzését, de a képességek utánzása vagy a szellemi tulajdon jogosulatlan felhasználása is kárt okozhat. A fogalom a modellhez és a szolgáltatáshoz kapcsolódó védelmet egyaránt érinti.
A kockázat mérsékléséhez korlátozni kell a hozzáférést, figyelni kell a szokatlan lekérdezési mintákat, és védeni kell a modelleket tároló rendszereket. A hozzáférési naplók segíthetnek kivizsgálni, ha nagy mennyiségű vagy automatizált lekérdezés jelenik meg. A szolgáltatóknak mérlegelniük kell, milyen kimenetet és milyen mennyiségben tesznek elérhetővé. A védelem mellett a szerződéses és licencfeltételek is meghatározhatják, mi számít megengedett felhasználásnak. A modelllopás nem ugyanaz, mint a modell hibás használata, bár ugyanaz a gyenge hozzáférés-ellenőrzés több kockázatot is növelhet.
Példa
Egy szolgáltató észleli, hogy egy hozzáférési kulccsal szokatlanul sok, automatizált kérés érkezik, ezért korlátozza a kulcsot és kivizsgálja a használatot.
Gyakori tévhit
A modelllopás nem csak a modellfájl ellopása lehet; a válaszokból történő utánzás is része lehet a kockázatnak.