A Pieces Technologies, Inc. nevű amerikai szolgáltató egészségügyi intézmények – orvosok és más egészségügyi dolgozók – számára fejleszt, forgalmaz és telepít általános célú mesterséges intelligencia (AI) rendszerre épülő termékeket és szolgáltatásokat. Reklámja szerint: „A Pieces összefoglalókat, diagramokat, és vázlatokat készít az orvosok és nővérek számára – hogy nekik ne kelljen”.
Termékei és szolgáltatásai hirdetése során a társaság azt is kiemelte, az általános célú AI rendszerre épülő kimeneteinek „kritikus hallucinációs rátája” kisebb mint 0,001%, „súlyos hallucinációs rátája” pedig kevesebb mint 1 a 100.000-ből. A „kritikus hallucinációs ráta” és a „súlyos hallucinációs ráta” az AI-rendszerek pontosságának mérésére szolgáló mérőszámok, azokra az esetekre, ha az AI-rendszer hibás vagy félrevezető kimenetet hozna létre („hallucináció”). A társaság állítása a gyakorlatban azt jelenti, hogy az általa használt AI-rendszer rendkívül ritkán, kevesebb mint 0,001%-ban vagy százezer eredményből kevesebb mint egy alkalommal állít elő hibás vagy félrevezető kimeneteket. Ez azt sugallja, hogy a társaság által szolgáltatott AI-rendszer megbízható, és az általa generált hibás eredmények kockázata minimális.
A tisztességtelen piaci magatartás elleni fellépéssel kapcsolatban illetékes hatóság (Attorney General of Texas) az állam megtévesztő kereskedelmi gyakorlatok tilalmával, illetve fogyasztóvédelemmel kapcsolatos jogszabályhelyei (Texas Deceptive Trade Practices – Consumer Protection Act, TEX. BUS. & COM. CODE ANN. §17.58,) alapján a társaság állításait megtévesztőnek tartotta.
A társaság nem ismerte el a jogsértés megvalósulását, de az eljárás lezárása érdekében 5 évre szóló kötelezettségvállalásokat tett.[1] Az alábbiakban ismertetjük a legfontosabb kötelezettségvállalásokat, mert a hatóság elvárásai tanulságosak lehetnek az EU-ban működő AI szolgáltatók számára is annak meghatározása során, hogy AI-rendszerre épülő termékeik és szolgáltatásaik működése, illetve pontossága bemutatása során milyen állításokat tehetnek, akár üzleti partnerek, akár fogyasztók irányában.
Megtévesztő állítások tilalma
A kötelezettségvállalások keretében a társaság kifejezetten vállalta, hogy nem tesz semmilyen megtévesztő, vagy megfelelően nem alátámasztott állítást termékeivel vagy szolgáltatásaival kapcsolatban.
Ide tartoznak például:
- a termékek és szolgáltatások pontosságával, megbízhatóságával, vagy hatékonyságával kapcsolatban tett kijelentések,
- a termékek tesztelésére vagy felügyeletére használt eljárások és módszerekkel, valamint a társaság által használt mérőszámok meghatározásával és/vagy jelentésével összefüggő nyilatkozatok; és
- a termékek tanítására használt adatokra vonatkozó állítások.
Egyértelmű és jól látható tájékoztatás a reklámozás során
A társaság vállalta továbbá, hogy az általános célú AI rendszerre épülő termékei kimeneteivel kapcsolatban bármilyen mérőszámra vonatkozó állításai során tájékoztatást ad az adott mérőszám jelentéséről vagy meghatározásának, illetve kiszámításának módjáról. A szolgáltató termékei és szolgáltatásai teljesítményének vagy jellemzőnek értékelése céljából felkérhet egy független, harmadik félként eljáró auditort is, és a reklámokban tett állítások során hivatkozhat az audit eredményére.
Egyértelmű és jól látható tájékoztatás az ügyfelek számára
Végül a társaság azt is vállalta, hogy ügyfeleivel való kommunikáció során tájékoztatást ad a termékeivel vagy szolgáltatásaival kapcsolatos minden ismert vagy ésszerűen előrelátható káros, vagy potenciálisan káros felhasználási módról, illetve visszaélésről.
A gyakorlatban ez egy dokumentáció, amely minimum az alábbi információkat tartalmazza:
- a termékek és szolgáltatások tanításához használt adatok és/vagy modellek,
- részletes magyarázat a termékek és szolgáltatások tervezett céljáról és használatáról, valamint minden, a megfelelő használat elősegítéséhez szükséges képzésről vagy dokumentációról,
- minden ismert vagy ésszerűen előrelátható korlátozás a termékek és szolgáltatások használatával kapcsolatban, ideértve a páciensekre és egészségügyi dolgozókra gyakorolt kockázatokat (például: pontatlan eredményekből adódó fizikai vagy pénzügyi károk),
- minden ismert vagy ésszerűen előrelátható, a pontatlan eredmények kockázatát vagy az egyénekre nézve jelentkező veszélyeket fokozó kockázat leírása, és
- minden további dokumentáció, amely szükséges ahhoz, hogy a felhasználó megértse a termék vagy szolgáltatás által generált eredmény jellegét és célját, ellenőrizze a pontatlansági mintákat, és ésszerűen elkerülje a termék vagy szolgáltatás helytelen használatát.
Tanulságok az EU-ban működő, általános célú AI rendszerre épülő termékeket és szolgáltatásokat nyújtó társaságok számára
Az EU mesterséges intelligenciáról szóló jogszabálya (AI Act) 2024. augusztus 1-jén lépett hatályba. Az AI Act a fenti kötelezettségvállalásban megfogalmazott részletes kockázatértékelési intézkedéseket kizárólag a magas kockázatú AI-rendszerek tekintetében vár el – egy, a Pieces Technologies, Inc. által szolgáltatott általános célú AI-rendszeren alapuló orvosi szoftver ebbe a körbe tartozhat. A texasi hatóság által megfogalmazott aggályok, és az általa jóváhagyott kötelezettségvállalások megfelelő betekintést mutathatnak abba, hogy adott esetben egy illetékes európai hatóság milyen szintű átláthatóságot, kockázatértékelést, és dokumentációs kötelezettséget vár majd el egy magas kockázatú AI-rendszer szolgáltatójától, valamint az általános célú MI-modellek szolgáltatóitól. Érdekes kérdés lesz az is, hogy az AI Act által előírt kötelezettségekkel párhuzamosan hogyan érvényesülnek majd a tisztességtelen piaci magatartással kapcsolatos szabályok és hatósági elvárások – az AI Act mellett az AI-rendszerek szolgáltatóinak figyelembe kell venniük termékeik és szolgáltatásaik reklámozása során a versenyjogi és fogyasztóvédelmi szabályokat is.
[1] A hivatalos dokumentum teljes változata (angol nyelven) ITT elérhető.
