Zorgverleners gebruiken eigen AI-tools: wat betekent dat voor jouw gegevens?
Inhoudsopgave
Wat er uit het onderzoek blijkt
De cijfers komen uit een onderzoek van ZorgfocuZ onder 4.809 zorgmedewerkers uit onder meer ziekenhuizen, de ouderenzorg, de ggz, de gehandicaptenzorg en huisartsenpraktijken. Volgens ICT&health gebruikt 58 procent van hen AI al op een of andere manier in het werk, bijvoorbeeld een taalmodel of spraakgestuurde verslaglegging. Tegelijk weet 42 procent niet of er binnen de eigen organisatie regels zijn voor dat gebruik, en ongeveer een derde weet niet welke tools wel en niet mogen. De meeste medewerkers hebben nog geen scholing gehad over AI.
Dat is het eigenlijke probleem. Niet dat zorgverleners AI gebruiken, want er zijn goede toepassingen, maar dat veel van hen dat doen zonder te weten wat mag en met tools die daar niet voor bedoeld zijn.
Waar je gegevens heen gaan
Er is een groot verschil tussen AI die een ziekenhuis of huisartsenpraktijk zelf heeft ingekocht en een chatbot die een medewerker op eigen houtje gebruikt. Bij een ingekochte toepassing, zoals software die tijdens het consult meeluistert en een verslag maakt, heeft de zorgaanbieder afspraken gemaakt over waar de gegevens staan, wie erbij kan en hoe lang ze bewaard worden. Dat is verplicht onder de privacywet, en medische gegevens vallen daarin onder de strengste categorie.
Bij een gratis chatbot op een eigen telefoon of laptop zijn die afspraken er niet. Wat erin gaat, staat op de servers van een Amerikaans techbedrijf, komt in een gespreksgeschiedenis terecht en kan bij de gratis versies worden gebruikt om modellen te trainen. Plakt iemand een verslag met jouw naam, geboortedatum en diagnose in zo’n chatbot, dan is dat in de meeste gevallen een datalek. Ook als er nooit iets misgaat.
Het tweede risico is de kwaliteit van het antwoord. Chatbots klinken zeker van hun zaak, ook als ze het mis hebben. We schreven eerder over huisartsen die extra telefoontjes krijgen door medisch advies uit de AI van Google. Als een zorgverlener zelf op zo’n antwoord gaat leunen, schuift dat risico de spreekkamer in.
Wat wel mag
Het is goed om hier niet in paniek te schieten. Een zorgverlener die een chatbot vraagt om een algemene uitleg over een aandoening in eenvoudiger Nederlands te zetten, zonder patiëntgegevens erin, doet niets verkeerd. Hetzelfde geldt voor een arts die een ingekochte en goedgekeurde tool gebruikt om het verslag van je consult te maken, zodat hij jou kan aankijken in plaats van te typen. Dat zijn juist de toepassingen waar de zorg tijd mee wint.
De grens ligt bij twee dingen. Er mogen geen herleidbare gegevens van jou in een tool die daar niet voor is goedgekeurd. En de beslissing over je diagnose of behandeling hoort bij de zorgverlener te blijven, niet bij een chatbot.
Wat je zelf kunt vragen
Als patiënt heb je meer invloed dan je denkt. Je mag gewoon vragen hoe er met je gegevens wordt omgegaan, en een goede zorgverlener heeft daar een antwoord op. Een paar vragen die je kunt stellen.
- Gebruikt u AI bij mijn consult of mijn dossier, en zo ja, waarvoor?
- Is dat een programma van de praktijk of het ziekenhuis zelf?
- Wordt ons gesprek opgenomen of automatisch uitgeschreven, en wie leest dat verslag na?
- Kan ik bezwaar maken tegen het gebruik van AI bij mijn gegevens?
Wordt een gesprek opgenomen voor een automatisch verslag, dan hoort dat vooraf gemeld te worden. Merk je dat dat niet gebeurt, of krijg je geen duidelijk antwoord, dan kun je terecht bij de klachtenfunctionaris van de zorgaanbieder of bij de Autoriteit Persoonsgegevens.
Wij denken dat de oplossing uiteindelijk bij de zorgaanbieders ligt. Zolang zij geen goede, goedgekeurde tools aanbieden en uitleggen wat mag, grijpen medewerkers naar wat ze zelf kennen. Het ECP werkt daarom aan een platform voor AI-geletterdheid in de zorg. Tot dat op orde is, is een kritische vraag van de patiënt geen wantrouwen, maar gewoon verstandig.
