Az EU Mesterséges Intelligenciáról szóló Rendelete (AI Act) alapján 2024. február 2-ig minden szervezetnek biztosítania kellett a Mesterséges Intelligencia jártasságot munkatársai számára – függetlenül attól, hogy szolgáltatóként vagy felhasználóként (alkalmazóként) vesznek részt az MI-értékláncban.
Ennek a cikknek a célja, hogy bemutassuk, mit is jelent a gyakorlatban az MI-jártassággal kapcsolatos megfelelés.
Mi az a kötelező MI-jártasság az AI Act alapján?
Az MI-jártasság fogalmát az AI Act 3. cikk (Fogalommeghatározások) 56. pontja határozza meg.
Eszerint az „MI-jártasság”: „olyan készségek, ismeretek és értelmezési képességek, amelyek lehetővé teszik a szolgáltatók, az alkalmazók és az érintett személyek számára, hogy – figyelembe véve az e rendelettel összefüggésben fennálló jogaikat és kötelezettségeiket – a megfelelő információk birtokában telepítsenek MI-rendszereket, valamint tudomást szerezzenek az MI lehetőségeiről és kockázatairól, és azon lehetséges károkról, amelyet az MI okozhat”.
Az MI-jártasággal kapcsolatos teendőket pedig az AI Act 4. cikke (MI-jártasság) sorolja fel:
- Az MI-rendszerek szolgáltatói és alkalmazói intézkedéseket kell hozzanak annak érdekében, hogy a tőlük telhető legnagyobb mértékben biztosítsák személyzetük, valamint a nevükben az MI-rendszerek működtetésével és használatával foglalkozó bármely más személy MI terén szerzett megfelelő szintű MI-jártasságát.
- Ennek során figyelembe kell venni az érintettetek szakmai ismereteit, tapasztalatait, végzettségét és képzettségét, valamint azon körülményeket, amelyek között az MI-rendszereket használni fogják, és figyelembe véve azon személyeket vagy azon személyek csoportjait, akik tekintetében az MI-rendszereket használni fogják.
Fontos tudni, hogy az AI Act (20) preambulumbekezdése szerint az AI Act alkalmazásával összefüggésben az MI-jártasságnak „szavatolnia kell, hogy az MI-értékláncon belüli valamennyi releváns szereplő rendelkezzen [az AI Act] megfelelő betartásának és helyes érvényesítésének biztosításhoz szükséges tudással”. A gyakorlatban ez azt is jelentheti, hogy a szolgáltatók és az alkalmazók mellett az AI-rendszerek gyártói, forgalmazói, importőrei is kötelesek biztosítani munkatársaik MI-jártasságát.
Mit mond a hatóság?
Az AI Act a fenti általános rendelkezéseken túl nem tartalmaz további részletszabályokat arról, hogy milyen intézkedéseket kell hozniuk a szervezeteknek munkavállalóik MI-jártasságának fejlesztése érdekében.
A Mesterséges Intelligenciával Foglalkozó Európai Testület az AI Act alapján támogatja majd a Bizottságot az MI-jártassághoz kapcsolódó eszközök népszerűsítésében. A Bizottságnak és a tagállamoknak – az érintett érdekelt felekkel együttműködésben – elő kell továbbá segíteniük olyan önkéntes magatartási kódexek kidolgozását, amelyek célja az MI-jártasság előmozdítása az MI fejlesztésével, működtetésével és használatával foglalkozó személyek körében. Várható tehát, hogy az MI-jártassággal kapcsolatban további ajánlások kerülnek kibocsátásra. Addig is, a gyakorlati megfelelést segítheti a holland adatvédelmi hatóság (Autoriteit Persoonsgegevens) által 2025. február elején kiadott, az MI-jártasság biztosításával kapcsolatos feladatokat részletező iránymutatás.
Tekintettel arra, hogy az AI Act Magyarországon is közvetlenül alkalmazandó, és a magyarországi szervezeteknek is 2024. február 2-ig kötelező teljesíteni az MI-jártassággal kapcsolatos kötelezettségeiket, az iránymutatás a magyar szervezetek számára is hasznos lehet. Ennek érdekében az iránymutatás legfontosabb rendelkezései alapján készítettünk egy feladatlistát.
10 gyakorlati feladat az MI-jártasság biztosítása érdekében
- Az MI-jártasság lényege az MI-rendszerek felelős alkalmazásához szükséges készségek és tudás elsajátítása, oly módon, hogy segítse a szervezeteket az MI lehetőségeinek legjobb kihasználásában és a kockázatok minimalizálásában.
- Az MI-jártasság biztosítása több éves folyamat. Szükséges hozzá vezetői szintű elfogadás, megfelelő költségvetési források biztosítása, a szervezeti (menedzsment) felelősség és irányítás meghatározása, valamint az előrehaladás folyamatos figyelemmel kísérése.
- Az MI-jártasság kialakítása az MI-rendszernek nem minősülő algoritmusok használata esetén is ajánlott.
- Az MI-jártasság fejlesztése függ a szervezet rendelkezésére álló erőforrásoktól és pénzügyi lehetőségektől. Minél magasabb szintű a szervezet által használt MI-rendszerekkel kapcsolatos kockázat, annál magasabb szintű MI-jártasság szükséges a munkatársak számára.
- A GDPR 30. cikke szerint kötelező belső adatkezelési nyilvántartáshoz hasonlóan belső leltárt kell készíteni a szervezet által használt MI-rendszerekről, valamint a rendszereknek az érintett személyekre és a társadalomra gyakorolt hatásairól, továbbá a kapcsolódó lehetőségekről és kockázatokról, ideértve a kockázatok rangsorolását. Rögzíteni kell továbbá, hogy a szervezet milyen, az AI-jártasság szempontjából releváns belső irányelveket, terveket és intézkedéseket alkalmaz. Dokumentálni kell az MI-rendszereket használó munkatársak körét, valamint az MI-rendszerek használata által érintett személyek csoportját.
- Ezt követően érdemes előzetesen felmérni a munkatársaknak az MI-rendszerekkel kapcsolatos mindenkori tudásszintjét, és hogy milyen tudásra és eszközökre van szükségük a munkatársaknak, hogy megfelelő MI-jártassági szintet érjenek el, és az MI-rendszereket felelősségteljesen tudják használni – de nem minden munkatársnak kell ugyanolyan szintű MI-jártassággal rendelkezni. A szükséges tudásszint attól függ, hogy az érintettek milyen pozícióban és milyen módon használnak MI-rendszereket.
- Az MI-rendszereket közvetlenül nem használó munkatársaknak például nem kell ismerniük az MI-rendszerek pontos működését, de az átláthatóság érdekében tisztában kell lenniük azzal, hogy a szervezet milyen MI-rendszereket használ, és milyen célból. Az MI-rendszereket közvetlenül használó munkatársaknak azonban megfelelő ismerettel kell rendelkezniük az MI-rendszerek működéséről, valamint a kapcsolódó kockázatokról. Fontos az is, hogy a munkatársak az MI-rendszerek technikai működése mellett ismerjék az MI-rendszerek használatának társadalmi, etikai, jogi és gyakorlati vonatkozásait, valamint megértsék, hogyan kell értelmezni egy MI-rendszer kimenetét, illetve hogy egy MI-rendszer segítségével hozott döntés milyen hatással van az érintett személyekre. Ha egy munkatárs például álalános célú MI-rendszert használ tartalmak előállításához, fontos, hogy tisztában legyen azzal, hogyan keletkezik az MI-rendszer által előállított információ, és felismerje, hogy az MI-rendszer torzításokat és pontatlan adatokat tartalmazhat. A profilalkotást végző értékelési rendszert használó HR-munkatársaknak is elegendő ismerettel kell rendelkezniük a lehetséges kockázatokról és arról, hogyan használják helyesen az MI-rendszert. Specifikus képzést kell tartani az MI-rendszerekkel dolgozó, az MI-rendszerekkel kapcsolatos döntéseket hozó, valamint az MI-rendszerek beszerzését végző munkatársak számára.
- Az AI Act (91) preambulumbekezdése kifejezetten előírja a nagy kockázatú MI-rendszerek alkalmazóinak annak biztosítását, hogy a használati utasítás és az emberi felügyelet az AI Act-ben meghatározott végrehajtására kijelölt személyek rendelkezzenek az említett feladatok megfelelő ellátásához szükséges szakértelemmel, különösen megfelelő szintű MI-jártassággal.
- Nyomon kell követni a tanulási folyamatot, és meg kell határozni a konkrét pozíciókhoz kapcsolódó felelősségi köröket. Ebben segíthet egy úgynevezett „AI Officer” kinevezése, valamint egy szervezeti szintű MI-jártassági dokumentum készítése.
- Az MI-jártasság folyamatos fejlődési folyamat. Rendszeresen elemezni kell, hogy az MI-jártassággal kapcsolatban kitűzött célok teljesülnek-e – például belső felmérésekkel, időszakos jelentésekkel, illetve belső vagy külső auditokkal. Az eredmények alapján a szervezetek új célokat és intézkedéseket határozhatnak meg az MI-jártasság szintjének fenntartása és fejlesztése érdekében, figyelembe véve a technológiai változásokat, és minimalizálva az esetleges kockázatokat.
