AI-átláthatóság
Annak érthető bemutatása, hogy egy AI-rendszer mire szolgál, hogyan használják, milyen korlátai vannak, és ki felel a működéséért.
Analógia
Mint egy készülék használati útmutatója: elmagyarázza a rendeltetést és a korlátokat, hogy a használó ne találgasson.
Miért fontos?
Az átlátható tájékoztatás segít a felhasználóknak és az érintetteknek megítélni, mikor támaszkodhatnak a rendszerre, és mikor kérhetnek emberi felülvizsgálatot.
Hogyan működik?
Az AI-átláthatóság azt jelenti, hogy az érintettek érthető információt kaphatnak egy AI-rendszer céljáról, szerepéről, korlátairól és használati körülményeiről. Ide tartozhat annak jelzése, ha valaki AI-val lép kapcsolatba, milyen adatot dolgoz fel a rendszer, ki ellenőrzi az eredményt, és hová fordulhat az érintett kérdéssel. Az átláthatóság nem feltétlenül jelenti a modell teljes belső működésének közzétételét. A tájékoztatásnak a felhasználó helyzetéhez és a rendszer hatásához kell igazodnia.
A világos tájékoztatás segíti a megalapozott használatot és a bizalom megfelelő kalibrálását. Ha a felhasználó tudja, hogy a válasz gépi eredetű, milyen forrásokra támaszkodhat, és hol vannak a korlátok, könnyebben dönthet arról, mikor kérjen emberi ellenőrzést. Az átláthatóság akkor is fontos, ha a rendszer eredménye befolyásol egy folyamatot vagy döntést. A közölt információnak pontosnak és következetesnek kell lennie; a túl általános közlemény nem segít megérteni a tényleges adatkezelést vagy felelősséget. Az érthető leírás nem helyettesíti a műszaki és jogi ellenőrzést.
Példa
Egy ügyfélszolgálati felület jelzi, hogy a válasz AI-val készül, megadja az emberi ügyintéző elérését, és leírja, milyen ügyekben kell ellenőrzést kérni.
Gyakori tévhit
Az átláthatóság nem feltétlenül teszi teljesen magyarázhatóvá a modell belső számításait; a használathoz szükséges információkat teszi érthetővé.