AI risico’s in de zorg, classificatie en beheersing onder de AI-Verordening

AI risico's in de zorg zijn niet één verzameling maar vier soorten die om verschillende reacties vragen: patiëntveiligheidsrisico's, privacyrisico's, operationele risico's en compliance risico's. Deze gids beschrijft hoe je AI risico's in de zorg classificeert onder de AI-Verordening, hoe je ze rapporteert aan de RvB en aan toezichthouders, en welke beheersmaatregelen in Nederlandse zorginstellingen effectief blijken.

De doelgroep is de kwaliteitsverantwoordelijke, de bestuurder of de patiëntveiligheidscoördinator van een Nederlandse zorginstelling die verantwoording moet afleggen over welke AI-toepassingen binnen de instelling draaien en wat de bijbehorende risico's zijn. Voor het informatiebeveiligingsperspectief zie AI informatiebeveiliging in de zorg. Het bestuurlijke kader staat in AI governance in de zorg en het privacyperspectief in AI in de zorg en de AVG. Deze pagina zit op het snijvlak en beschrijft risico's als categorie en beheersproces.

Risicoclassificatie van AI in de zorg onder de AI-Verordening

De AI-Verordening (Verordening (EU) 2024/1689) hanteert een risicogebaseerde structuur waarin AI-systemen in vier categorieën vallen: onaanvaardbaar risico (verboden onder artikel 5), hoog risico (artikelen 6-27 en Annex III), transparantieplichten (artikel 50) en minimaal risico (geen specifieke verplichtingen). Voor Nederlandse zorginstellingen is de vraag welke van hun AI-toepassingen in welke categorie vallen.

Onaanvaardbaar risico. Sociale scoring van patiënten op basis van gedrag, real-time biometrische identificatie in publieke ruimten zonder juridische grondslag, en emotieherkenning op de werkvloer met uitzonderingen voor medische doeleinden. Voor de meeste Nederlandse zorginstellingen zijn deze categorieën eenvoudig te vermijden, mits er expliciet beleid tegen bestaat.

Hoog risico via Annex III. Voor zorg zijn drie Annex III-punten specifiek relevant. Punt 5(a) noemt AI-systemen die gebruikt worden voor de evaluatie van geschiktheid voor essentiële publieke diensten, waaronder gezondheidszorg. Punt 4 noemt werving en beoordeling van personeel, wat ook voor zorgpersoneel geldt. Punt 8(b) noemt AI-systemen bedoeld om de rechterlijke macht bij te staan, wat op het snijvlak van medisch-juridische geschillen speelt. AI voor ondersteuning bij diagnose of behandelbeslissingen valt hier los van, meestal onder de Medical Device Regulation (MDR) en niet onder de AI-Verordening Annex III, tenzij het systeem valt onder beide (waarover artikel 6 uitsluitsel geeft).

Transparantieplicht. Chatbots die met patiënten praten, AI-gegenereerde inhoud zoals brieven of samenvattingen, en systemen die deepfake-achtig content produceren vallen onder artikel 50 en vereisen dat de gebruiker weet dat er AI in het spel is. Voor Nederlandse zorginstellingen betekent dit dat patiëntgerichte chatbots expliciet als AI moeten worden aangekondigd.

Minimaal risico. AI voor administratieve taken zonder directe patiëntimpact (agendabeheer, boekhoudingsondersteuning, interne kennisdeling) valt in deze categorie. Er zijn geen specifieke AI-Verordening-verplichtingen, maar de generieke AVG- en NEN 7510-verplichtingen blijven onverkort gelden.

De praktische conclusie is dat voor een gemiddelde Nederlandse zorginstelling de meeste AI-inzet in de categorie "minimaal risico" of "transparantieplicht" valt, met een kleiner aantal hoog-risico-toepassingen dat expliciete DPIA, risicomanagementsysteem en menselijk toezicht vereist onder de AI-Verordening.

Vier soorten AI risico's in de zorg

Naast de juridische classificatie is de operationele indeling in vier risicosoorten praktisch bruikbaar voor de dagelijkse beheersing.

Patiëntveiligheidsrisico's. Een AI-systeem dat een klinische beslissing beïnvloedt kan tot schade leiden als het onjuist adviseert, als de zorgprofessional het advies overneemt zonder eigen beoordeling (automation bias), of als het systeem uitvalt op een kritiek moment. Onder de Wet kwaliteit, klachten en geschillen zorg (Wkkgz) blijft de zorgaanbieder eindverantwoordelijk voor de geleverde zorg, ongeacht welke technische hulpmiddelen zijn gebruikt.

Privacyrisico's. De verwerking van bijzondere persoonsgegevens (gezondheidsgegevens onder AVG artikel 9) door AI-tools vergt een expliciete grondslag, een DPIA voor risicovolle verwerkingen en een verwerkersovereenkomst met de leverancier. Onvoldoende afgedekt levert AP-boetes en reputatieschade op. Voor het volledige AVG-kader zie AI in de zorg en de AVG.

Operationele risico's. Uitval van een AI-tool die in het primaire proces zit (bijvoorbeeld transcriptie van consulten, automatische verwerking van meldingen, of vertaling van patiëntinformatie) verstoort de zorgverlening. Afhankelijkheid van één leverancier zonder terugvaloptie is een bekende bron van operationeel risico. Voor Nederlandse zorginstellingen ligt de vraag welke tools zo kritiek zijn dat een terugvaloptie of dubbele bron nodig is.

Compliance risico's. Naast AVG en AI-Verordening spelen NEN 7510, MDR (voor AI die kwalificeert als medisch hulpmiddel), Wkkgz, en sectorale afspraken (zoals het informatieberaad Zorg en de handreiking Verantwoord gebruik van AI in de zorg van de IGJ). Elk kader stelt eigen eisen. Overlap is groot maar niet volledig.

Hoe AI-meldingen en processen in de zorg risico's introduceren

Een specifieke categorie die in de praktijk vaak onderschat wordt zijn de risico's die ontstaan wanneer AI meldingen en processen automatisch verwerkt in de zorg. Voorbeelden: een AI-tool die inkomende patiëntberichten classificeert en op basis daarvan een urgentie toekent, een systeem dat automatisch afspraken herschikt op basis van beschikbaarheid en klinische prioriteit, of een verwerking van meldingen uit een compliance managementsysteem waar AI de eerste triage doet.

Voor deze processen ontstaan risico's op twee lagen. Op de klinische laag: een verkeerde classificatie kan tot vertraging of onterechte prioritering leiden. Op de organisatorische laag: het proces raakt in een black-box wanneer niemand meer weet waarom een bepaalde melding op een bepaalde manier is afgehandeld.

De beheersing van deze risico's vraagt drie maatregelen. Ten eerste een expliciet percentage voor review waarin een mens periodiek de AI-classificaties beoordeelt (steekproef of 100%, afhankelijk van de risico-inschatting). Ten tweede een mechanisme voor fallback voor wanneer de AI onzeker is: bij een lage confidence-score altijd doorleiden naar een menselijke beoordelaar. Ten derde een logregistratie per melding waarin de AI-classificatie, de menselijke overrule (indien van toepassing) en de eindbeslissing staan, zodat achteraf reconstructie mogelijk is.

Wat IGJ inspecteert rond AI in de zorg

De Inspectie Gezondheidszorg en Jeugd (IGJ) heeft in 2024 een handreiking gepubliceerd over verantwoord gebruik van AI in de zorg. De handreiking is niet-bindend maar geeft een goede indicatie van wat inspecteurs bij een bezoek zullen willen zien.

De kern van het IGJ-perspectief is de patiëntveiligheid en de bestuurlijke controle daaropvergrenzend. Onze observatie uit vergelijkbare inspectietrajecten is dat inspecteurs consistent naar vier documenten vragen: het overzicht van AI-toepassingen binnen de instelling (welke tools, voor welke taken, sinds wanneer), de risico-inschatting per hoog-risico-toepassing (DPIA en AI-Verordening-risico-analyse), de bestuursbesluiten waarin AI-inzet is bekrachtigd, en de incidentregistratie voor AI-gerelateerde voorvallen.

Instellingen die deze vier documenten niet binnen een dag kunnen overleggen komen in een lastige inspectiepositie. Instellingen die de documenten wel op orde hebben, maar waarvan de documenten niet aansluiten op de daadwerkelijke praktijk (gedocumenteerd beleid dat afdelingen niet volgen), komen in een nog lastigere positie.

Risicobeheersing in de praktijk

Een werkbaar risicobeheersingsproces voor AI in een Nederlandse zorginstelling bestaat uit vijf terugkerende stappen.

Registratie. Elke nieuwe AI-tool wordt aangemeld bij een centraal punt (doorgaans de CISO, FG of kwaliteitsverantwoordelijke, samen). Zonder registratie is de rest van het proces niet mogelijk.

Risico-inschatting. Per tool: welke categorie AI-Verordening, welke AVG-grondslag, welke Wkkgz-impact, welke NEN 7510-controles zijn extra van toepassing. Voor hoog-risico-toepassingen aanvullend een DPIA en een AI-Verordening-risico-analyse conform artikel 9.

Beheersmaatregelen. Per geïdentificeerd risico een concrete maatregel plus een verantwoordelijke. Dit is het punt waar veel instellingen struikelen: risico-analyses blijven op papier hangen omdat er geen eigenaar aan de maatregel gekoppeld is.

Monitoring. Periodieke controle of de maatregelen werken en of nieuwe risico's zijn ontstaan. Voor hoog-risico-toepassingen is dit onder de AI-Verordening een expliciete verplichting. Voor lager-risico-toepassingen is het een goede praktijk.

Rapportage. Aan RvB en aan externe toezichthouders waar vereist. Dit is de plek waar risicobeheer en informatiegestuurd beleid in de zorg elkaar in de praktijk raken: de data uit de risicomonitoring vormt input voor de bestuurlijke besluitvorming over AI-inzet als geheel.

Waar Ciralgo past in de risicobeheersing

Ciralgo dekt een beperkt maar concreet deel van de AI-risico's uit dit hoofdstuk. Als EU-gehoste LLM-proxy tussen zorg-toepassingen en LLM-leveranciers levert Ciralgo per verzoek een audit-log dat aansluit op artikel 12 van de AI-Verordening, dwingt de jurisdictie af zodat gezondheidsgegevens niet naar niet-EU-leveranciers gaan, en maakt kostenattributie per afdeling of behandelaar mogelijk.

Wat Ciralgo niet doet: patiëntveiligheidsrisico's beoordelen, klinische validatie leveren, of de DPIA opstellen. Dat blijft werk van de kwaliteitsverantwoordelijke, de functionaris gegevensbescherming en (voor MDR-relevante toepassingen) de fabrikant van het medische hulpmiddel. Ciralgo is een operationele component in de bredere risicohuishouding, geen substituut voor bestuurlijk oordeel. Meer over de opzet in Ciralgo.

Veelgestelde vragen over AI risico's in de zorg

Valt een AI-tool voor diagnose onder de AI-Verordening of onder de MDR?

Vaak onder beide. De Medical Device Regulation (MDR) reguleert AI-systemen die als medisch hulpmiddel kwalificeren. Artikel 6 van de AI-Verordening bepaalt dat AI-systemen die onder MDR vallen én als veiligheidscomponent worden aangemerkt, aanvullend onder de hoog-risico-verplichtingen van de AI-Verordening vallen. Voor de meeste diagnose-ondersteunend AI-tools met CE-markering geldt dat beide regimes gelden en dat de zorginstelling als deployer eigen verplichtingen heeft naast die van de fabrikant.

Zijn ChatGPT-achtige AI-assistenten voor niet-klinische taken hoog risico?

Doorgaans niet, onder de huidige lezing van de AI-Verordening. Een LLM-assistent voor administratieve ondersteuning valt onder de transparantieplicht (artikel 50) maar niet onder Annex III, mits het systeem geen invloed heeft op klinische beslissingen of op de toegang tot zorg. Dat betekent dat de generieke AVG-, NEN 7510- en Wkkgz-verplichtingen gelden zonder de aanvullende Annex III-eisen.

Wat is het verschil tussen AI-risico en informatiebeveiligingsrisico in de zorg?

Informatiebeveiligingsrisico is de kans dat gegevens ongewenst uitlekken, worden gewijzigd of niet beschikbaar zijn. AI-risico omvat dat, plus de bijzondere risico's van AI-systemen: automation bias, onvoorspelbare uitvoer, black-box besluitvorming, modelmanipulatie. Voor de operationele beheersing van AI-informatiebeveiliging in de zorg zie de aparte pagina daarover.

Moet een zorginstelling van elke AI-tool een DPIA maken?

Nee. Een DPIA is verplicht voor verwerkingen met een hoog risico voor de rechten en vrijheden van betrokkenen, en de AP heeft een lijst gepubliceerd van typen verwerkingen waar dit vermoed wordt. Voor AI-tools die persoonsgegevens verwerken op grote schaal, gegevens van kwetsbare betrokkenen (patiënten) of nieuwe technologie inzetten, is een DPIA in de praktijk vrijwel altijd de aangewezen route. Voor AI-tools die alleen anonieme aggregaten verwerken kan een DPIA achterwege blijven.

Wie rapporteert AI-incidenten in de zorg aan welke toezichthouder?

Datalekken (AVG) worden binnen 72 uur na ontdekking gemeld aan de Autoriteit Persoonsgegevens door de verwerkingsverantwoordelijke. Calamiteiten in de zorg (Wkkgz) worden binnen 3 werkdagen gemeld aan de IGJ door de zorgaanbieder. Ernstige incidenten met hoog-risico AI-systemen worden onder artikel 73 van de AI-Verordening gemeld aan de nationale markttoezichthouder door de provider en, indien deployer betrokken, ook door de deployer. Voor Nederlandse zorginstellingen: laat één persoon regie voeren op de meldingsstromen, want de deadlines lopen door elkaar.

Hoe verhoudt AI-risicobeheersing zich tot het bestaande veiligheidsmanagementsysteem in de zorg?

AI-risicobeheersing is een uitbreiding van het bestaande veiligheidsmanagementsysteem in de zorg, ook wel VMS genoemd, en geen parallel systeem. Wij zien in Nederlandse zorginstellingen dat de AI-risico's in de bestaande VMS-cyclus worden opgenomen, met AI-specifieke aandachtspunten in de checklists. Die cyclus loopt via registratie, analyse, verbeteractie en evaluatie. Een compleet separaat AI-risicomanagementsysteem naast het VMS leidt in de praktijk tot fragmentatie en dubbel werk.

Verder lezen

• AI in de zorg, praktische gids
• AI informatiebeveiliging in de zorg
• AI governance in de zorg
• AI in de zorg en de AVG
• AI in de zorg en NEN 7510
• AI in de zorg voorbeelden
• AI-Verordening EUR-Lex
• IGJ handreikingen

Laatst herzien: 18 augustus 2026. AI-Verordening implementatie, IGJ-handreikingen en Wkkgz-interpretaties evolueren, dus verifieer bij de bron voor de actuele stand.