Als een AI-toepassing in de zorg een fout maakt, vindt 41 procent van de zorgprofessionals dat de gebruiker verantwoordelijk is. Slechts 14 procent wijst naar de leverancier van de technologie. Dat blijkt uit onderzoek onder 212 Nederlandse professionals die werken in IT, data en compliance binnen de zorg.
Het vertrouwen in AI-systemen is daarbij beperkt. Drie procent noemt toepassingen in de zorg zeer betrouwbaar, terwijl 35 procent ze enigszins betrouwbaar vindt. Ruim een vijfde, 22 procent, staat sceptisch tegenover de technologie.
De verantwoordelijkheid voor AI is vaak niet formeel vastgelegd. Zorgorganisaties schaffen systemen aan en richten ze in, terwijl professionals ze in de dagelijkse praktijk gebruiken. Bij fouten kunnen de gevolgen voor patiënten direct zijn.
Wetgeving sluit niet altijd aan
Meer dan de helft van de ondervraagden, 55 procent, ziet bestaande wet- en regelgeving als een belemmering voor zorgvuldig gebruik van AI. De regels rond medische aansprakelijkheid, privacy en patiëntveiligheid zijn grotendeels ontstaan voordat AI een rol speelde in zorgbeslissingen.
Tegelijk willen professionals hoge eisen stellen aan nieuwe toepassingen. Van de deelnemers vindt 81 procent dat AI pas binnen de eigen organisatie mag worden gebruikt wanneer volledig vaststaat dat gegevens veilig en verantwoord worden verwerkt.
Sander Odijk, managing director van SureSync, zegt dat de uitkomst laat zien dat de sector al met AI werkt terwijl juridische en ethische afspraken nog onvoldoende zijn uitgewerkt. Hij wijst erop dat de verantwoordelijkheid voor fouten nu vooral bij de behandelend professional terechtkomt.
Potentie voor extra controle
Ondanks de zorgen ziet 56 procent van de deelnemers AI als een manier om de zorg veiliger te maken dan wanneer professionals alleen op hun eigen oordeel vertrouwen. AI kan bijvoorbeeld een extra controle bieden in situaties met hoge werkdruk, waar menselijke fouten grote gevolgen kunnen hebben.
Odijk stelt dat daarvoor duidelijke afspraken nodig zijn over de taken van leveranciers, zorgorganisaties en behandelaars. Ook pleit hij voor het human-in-the-loop-principe, waarbij een zorgprofessional uiteindelijk beslist.
De vraag wie aansprakelijk is bij fouten met AI raakt daarmee niet alleen aan techniek, maar ook aan bestuur en toezicht. Concrete richtlijnen moeten professionals helpen om systemen verantwoord te gebruiken, zonder dat zij alleen opdraaien voor risico's die in de hele keten ontstaan.
