New York City Városi Tanácsa (The New York City Council) nemrég új jogszabályt fogadott el a mesterségesintelligencia-rendszerek (MI-rendszerek) munkavállalók kiválasztása és teljesítmény-értékelése során történő használatáról. A jogszabály ezeket az MI-rendszereket „automatizált foglalkoztatási döntési eszköznek” (automated employment decision tool) nevezi, és meghatározza a használatukkal kapcsolatos átláthatósági követelményeket, valamint „elfogultsági audit” (bias audit) lefolytatásának kötelezettségét. A jogszabály 2023. január 1-jén lép hatályba, és (angol nyelven) elérhető ITT.
Az alábbiakban összefoglaljuk a jogszabály rendelkezéseit, mert fontos és érdekes jogalkotási mérföldkő az MI-rendszerek szabályozásában. Kitérünk az Európai Unió hasonló kezdeményezésére is – az MI rendelettervezet ugyanis magas kockázatú MI rendszerként kezeli az automatizált foglalkoztatási döntési eszközöket.
Az „automatizált foglalkoztatási döntési eszköz” fogalma
A jogszabály külön meghatározást vezet be az „automatizált foglalkoztatási döntési eszköz” fogalmára. Ilyen eszköznek minősül minden olyan számítási folyamat, ami
- gépi tanuláson, statisztikai modellezésen, adatelemzésen vagy mesterséges intelligencián alapul,
- egyszerűsített kimenetet ad ki, például pontszámot, besorolást vagy ajánlást, és
- érdemben segíti vagy helyettesíti a természetes személyeket érintő foglalkoztatási döntések meghozatalához szükséges, mérlegelésen alapuló döntéshozatalt.
Nem minősül „automatizált foglalkoztatási döntéshozatali eszköznek” az olyan eszközt, amely
- nem automatizálja, nem támogatja, és érdemben nem segíti vagy helyettesíti a mérlegelésen alapuló döntéshozatali folyamatokat, és
- nem gyakorol lényeges hatást természetes személyekre.
Nem „automatizált foglalkoztatási döntéshozatali eszköz” például a levélszemét-szűrők, a tűzfal, a vírusirtó, a számológép, egy-egy táblázat, adatbázist, adatkészlet vagy más adatösszeállítás.
„Elfogultsági audit” lefolytatása és közzététele
A munkáltatók és a munkaközvetítők kizárólag az alábbi feltételek betartása esetén használhatnak automatizált foglalkoztatási döntési eszközt:
- Az automatizált foglalkoztatási döntési eszközt az eszköz használata előtt legfeljebb egy évvel elfogultsági auditnak kell alávetni. Az „elfogultsági audit” fogalmát a jogszabály egy független ellenőr által végzett pártatlan értékelésként határozza meg, részletszabályait azonban nem állapítja meg. Az ellenőrzés magában foglalja például az automatizált foglalkoztatási döntéshozatali eszköz tesztelését, hogy sérti-e a munkavállalók jogszabályban meghatározott védett csoportjainak esélyegyenlőségét. A jogszabály egyébként nem írja elő, hogy az eszköz által hozott döntésekkel kapcsolatban nem merülhet fel elfogultság – az audit eredményét azonban a munkáltatók és a munkaközvetítők észszerűen figyelembe veszik az eszköz igénybevételét megelőzően.
- A munkáltató vagy a munkaközvetítő weboldalán az automatizált foglalkoztatási döntési eszköz használata előtt nyilvánosan hozzáférhetővé kell tegye az eszközzel kapcsolatos legutóbbi elfogultsági audit eredményeinek összefoglalóját, valamint az eszköz forgalombahozatalának időpontját.
Tájékoztatási kötelezettség az állásra jelentkezők és munkavállalók számára
- A munkáltatók és a munkaközvetítők az állásra jelentkezőket és munkavállalókat tájékoztatniuk kell arról, hogy automatizált foglalkoztatási döntési eszközt használnak, és mik azok a munkakörhöz kapcsolódó képességek és jellemzők, amelyeket az eszköz vizsgál az érintett értékelése során. A tájékoztatást legalább tíz munkanappal az eszköz használata előtt kell megtenni, és lehetővé kell tenni az érintett számára, hogy alternatív kiválasztási eljárást vagy elbánást kérjen (a jogszabály azonban nem tartalmaz rendelkezést arra vonatkozóan, hogy a munkáltató ennek a kérésnek eleget is kell tegyen).
- Az állásra jelentkező vagy a munkavállaló kérésére rendelkezésre kell bocsátani az automatizált foglalkoztatási döntési eszközhöz gyűjtött adatok típusára, az ilyen adatok forrására és a munkáltató vagy a munkaközvetítő adatmegőrzési gyakorlatára vonatkozó információkat. Ezt a tájékoztatást az érintett írásbeli kérésétől számított 30 napon belül kell megadni.
Szankciók
A fenti szabályok megsértése esetén az első jogsértésért és minden további, az első jogsértéssel azonos napon bekövetkező jogsértésért legfeljebb 500 USD (körülbelül 157 ezer forint), minden további jogsértésért pedig legalább 500 USD (körülbelül 157 ezer forint) és legfeljebb 1.500 USD (körülbelül 471 ezer forint) bírság (civil penalty) szabható ki. Minden egyes nap, amelyen az automatizált foglalkoztatási döntéshozatali eszközt jogellenesen használják, különálló jogsértésnek minősül. A bírság kiszabásának elrendelésére irányuló keresetet az úgynevezett „corporation counsel” jogosult indítani. (A „corporation counsel” az Egyesült Államok egyes önkormányzati és megyei joghatóságaiban a várossal szembeni polgári jogi követelésekkel foglalkozik – tulajdonképpen a város jogi védelmét látja el.)
Hasonló jogalkotási irány az EU-ban
2021. április 21-én az Európai Bizottság közzétette „A mesterséges intelligenciára vonatkozó harmonizált szabályok (A mesterséges intelligenciáról szóló jogszabály) megállapításáról” szóló rendelet javaslatát („MI Rendelettervezet”). Az MI Rendelettervezet célja, hogy meghatározza a mesterséges intelligencia rendszerek tervezésének és forgalmazásának szabályozási keretét. Ha elfogadják, a rendeletet mind az uniós gyártókra és beszállítókra, mind a termékeiket az EU-ba exportáló vállalatokra egyaránt alkalmazni kell majd.
Az MI Rendelettervezet 6. cikk (2) bekezdés, valamint a III. melléklet 4. pont b) alpontja (Foglalkoztatás, a munkavállalók irányítása és az önfoglalkoztatáshoz való hozzáférés) alapján az automatizált foglalkoztatási döntési eszközök úgynevezett „magas kockázatú MI rendszernek” minősülhetnek.
Ezek az eszközök ugyanis:
„a) természetes személyek toborzására vagy kiválasztására, különösen az üres álláshelyek meghirdetésére, a pályázatok előszűrésére vagy szűrésére, valamint a jelöltek értékelésére szolgáló MI-rendszerek”; vagy
„b) olyan MI-rendszerek, amelyeknek célja a munkával kapcsolatos szerződéses kapcsolatok előmozdítására és megszüntetésére vonatkozó döntések meghozatala, a feladatok kiosztása, valamint az ilyen kapcsolatokban részt vevő személyek teljesítményének és magatartásának nyomon követése és értékelése”.
A magas kockázattal járó MI rendszerek különleges tervezési és végrehajtási kötelezettségek, valamint a forgalomba hozatalhoz szükséges előzetes megfelelőségi igazolás feltételeivel lesznek alkalmazhatók. A jogszabályi követelmények közé tartozik az átláthatóság feltétele is – MI Rendelettervezet 13. cikke szerint „a nagy kockázatú MI-rendszereket úgy kell megtervezni és fejleszteni, hogy működésük kellően átlátható legyen ahhoz, hogy a felhasználók értelmezhessék a rendszer kimenetét és megfelelően használhassák azt”.
Kötelező lesz továbbá az ilyen MI-rendszerhez „tömör, teljes körű, pontos és egyértelmű, a felhasználók számára releváns, hozzáférhető és érthető információkat tartalmazó” használati utasítást mellékelni.
Az MI Rendelettervezet 14. cikke tartalmaz szabályokat az emberi felügyeletre vonatkozóan is, ezt az MI-rendszer teljes élettartama alatt hatékonyan kell végezni.
Ha az MI Rendelettervezet hatályba lép, az automatizált foglalkoztatási döntési eszközökkel kapcsolatos jogsértések akár 30 millió EUR összegű közigazgatási bírsággal, illetve vállalkozások esetében az előző pénzügyi év teljes éves világpiaci forgalmának legfeljebb 6%-át kitevő összeggel sújthatók.
