Az Európai Unió mérföldkőnek számító jogszabálya, az európai mesterséges intelligenciáról szóló rendelet (Regulation (EU) 2024/1689, közismert nevén az AI Act) a világ első átfogó, kockázatalapú jogi keretrendszere az AI-rendszerek fejlesztésére, piacra helyezésére és üzemeltetésére. Az egészségügyi szektorban az új rendelet nem elszigetelten vagy önmagában lép életbe, hanem szorosan összekapcsolódik a már meglévő orvostechnikai uniós szabályozási kerettel, különösen az orvostechnikai eszközökről szóló rendelettel (MDR, (EU) 2017/745) és az in vitro diagnosztikai eszközökről szóló rendelettel (IVDR, (EU) 2017/746). Ebben az elemzésben részletesen megvizsgáljuk, milyen szabályozási mechanizmusok alapján válik egy egészségügyi AI-szoftver magas kockázatúvá, melyek a fejlesztőkre és szolgáltatókra rótt kötelezettségek, és mit jelent mindez a betegek jogai és biztonsága szempontjából a mindennapi klinikai gyakorlatban.
A kockázatalapú megközelítés és a I. melléklet szerepe
Az EU AI-rendelete nem a technológiát önmagában bünteti vagy jutalmazza, hanem az alkalmazás specifikus kontextusát és az emberi életre, egészségre, biztonságra, valamint az alapvető jogokra gyakorolt kockázat mértékét értékel felmérésében. A jogszabály négy fő kockázati szintet állapít meg: elfogadhatatlan kockázat (tiltott mesterséges intelligencia gyakorlatok), magas kockázat (szigorú tárgyi és eljárási kötelezettségekkel), korlátozott kockázat (transzparencia-kötelezettségek) és minimális kockázat.
Az egészségügyi szoftverek és AI-rendszerek döntő többsége az 6. cikk (1) bekezdése és az I. melléklet együttes rendelkezései alapján kerül jogi besorolásra. Az AI-rendelet értelmében egy AI-rendszer automatikusan magas kockázatúnak (high-risk) minősül, ha megfelel az alábbi két együttes feltételnek:
- Az AI-rendszer maga egy olyan termék biztonsági alkatrésze, vagy maga a termék, amely az I. mellékletben felsorolt uniós harmonizációs jogszabályok hatálya alá tartozik (ezen uniós jogszabályok között kiemelt helyen szerepel az MDR orvostechnikai és az IVDR in vitro diagnosztikai rendelet).
- A terméknek az I. melléklet szerinti ágazati jogszabályok alapján harmadik fél által végzett megfelelőségértékelési eljáráson (Notified Body / független kijelölt szervezet általi auditelemzésen) kell átesnie a piacra helyezéshez.
Mivel az MDR 11. szabálya értelmében a diagnosztikai és terápiás döntéstámogató szoftverek túlnyomó többsége a IIa., IIb. vagy III. kockázati osztályba tartozik — ahol jogilag kötelező a kijelölt szervezet általi független audit —, így az egészségügyi AI-szoftverek közvetlenül és elkerülhetetlenül az AI Act magas kockázatú kategóriájába esnek.
Lépcsőzetes alkalmazási határidők és a jogi átmenet
Az AI-rendelet 2024. augusztus 1-jén lépett hatályba az Európai Unió teljes területén. Ugyanakkor a jogalkotó a piac és a klinikai szereplők felkészülése érdekében lépcsőzetes alkalmazási határidőket rögzített. Kiemelten fontos tisztázni a különböző alkalmazási dátumokat, mert a nyilvános sajtóban gyakran összevonják az általános szabályokat a termékbiztonsági harmonizációs szabályokkal:
- 2025. február 2. (6 hónap): Az elfogadhatatlan kockázatú, tiltott AI-gyakorlatokra vonatkozó tilalmak alkalmazása (például a tiltott tudatalatti manipulációs vagy emberi biometrikus kategorizációs rendszerek).
- 2025. augusztus 2. (12 hónap): Az általános célú AI-modellekre (GPAI, pl. nagy nyelvi modellek alapinfrastruktúrája és azok átláthatósági követelményei) vonatkozó szabályok alkalmazása.
- 2027. december 2. (a Digitális Omnibusz szerinti módosított határidő): A III. melléklet szerinti önálló magas kockázatú AI-rendszerekre (például munkaerő-toborzási, hitelbírálati vagy oktatási AI) vonatkozó előírások. Az eredeti szöveg 2026. augusztus 2-át írt elő; a 2026 júliusában hatályba lépett (EU) 2026/1744 rendelet („Digitális Omnibusz”) tolta ki, mert a megfeleléshez szükséges harmonizált szabványok nem készültek el.
- 2028. augusztus 2. (a Digitális Omnibusz szerinti módosított határidő): Az I. melléklet alá tartozó termékekbe épített magas kockázatú AI-rendszerek — így az orvostechnikai eszközök (MDR) és in vitro diagnosztikumok (IVDR) — teljes körű megfelelősége. Az eredeti, 2027. augusztus 2-i (36 hónapos) határidőt ugyanez az (EU) 2026/1744 rendelet tolta ki egy évvel, a szabványok és a kijelölt szervezetek kapacitásának hiánya miatt.
Milyen kötelezettségeket ró az AI Act az egészségügyi fejlesztőkre?
Egy magas kockázatúnak minősülő egészségügyi AI-rendszer piacra dobása és klinikai alkalmazása szigorú minőségirányítási és adatintegritási követelményekhez kötött. A rendelet III. fejezete az alábbi kötelező eljárási elemeket írja elő a fejlesztők számára:
- Kockázatirányítási rendszer (9. cikk): A fejlesztőnek a termék teljes életciklusa során folyamatos, dokumentált kockázatértékelést és kockázatcsökkentési eljárásokat kell lefolytatnia, azonosítva a klinikai, technológiai és adatvédelmi kockázatokat.
- Adatminőség és adatirányítás (10. cikk): A tanító, tesztelő és validáló adatbázisoknak relevánsnak, reprezentatívnak és torzításmentesnek (bias-free) kell lenniük. Ez elengedhetetlen ahhoz, hogy a modell különböző betegpopulációkon, életkori és demográfiai csoportokon is egyenletes, igazolt pontossággal működjön.
- Műszaki dokumentáció és naplózás (11. és 12. cikk): A szoftver működésének teljes mértékben nyomon követhetőnek és automatikusan naplózottnak kell lennie, biztosítva az eseményrögzítést a váratlan klinikai meghibásodások vagy téves elemzések utólagos kivizsgálásához.
- Átláthatóság és tájékoztatás (13. cikk): Az AI-t alkalmazó egészségügyi szolgáltatónak és orvosnak pontos, érthető utasítást kell kapnia arról, hogy az algoritmus milyen korlátokkal rendelkezik, milyen paraméterek alapján hoz javaslatot, és milyen klinikai esetekben nem alkalmazható.
- Emberi felügyelet (14. cikk - Human Oversight): A rendszernek olyan felülettel kell rendelkeznie, amely lehetővé teszi, hogy az orvos bármely pillanatban felülbírálhassa, leállíthassa vagy figyelmen kívül hagyhassa az AI által generált javaslatot. A végleges döntés joga és felelőssége nem ruházható át az algoritmusra.
- Pontosság, robusztusság és kiberbiztonság (15. cikk): A rendszert védeni kell a külső adatmanipulációs támadásokkal, a modellfélrevezetéssel és az informatikai leállásokkal szemben.
Mit jelent ez a beteg számára a gyakorlatban?
Az EU AI-rendeletének és az MDR-nek a közös rendszere szigorú védőhálót húz a lakosság köré. A gyakorlatban ez azt jelenti, hogy:
- Egyetlen AI-szoftver sem kerülhet hivatalosan a klinikai gyakorlatba független szakértői audit és bizonyított klinikai vizsgálatok nélkül.
- A betegnek joga van tájékoztatást kapni, ha a diagnózis vagy a leletezés során AI-alapú döntéstámogató eszközt alkalmaztak.
- Az AI nem hozhat önálló, automatizált döntést a beteg kezeléséről: a felelős döntéshozó minden esetben a szakképzett kezelőorvos.
Egészségügyi ellátással vagy diagnosztikai leletekkel kapcsolatos kérdéseivel minden esetben forduljon kezelőorvosához! Sürgős egészségügyi vészhelyzetben azonnal hívja a 112-es segélyhívó számot!