Steeds langer wordende wachtlijsten, inconsistente diagnoses en vermoeide en overwerkte artsen en andere zorgprofessionals. Het zijn voorbeelden van de hedendaagse, onoverkomelijke problemen in de zorg. Tenminste, verondersteld ‘onoverkomelijk’. Want nu kunstmatige intelligentie (AI) haar intrede doet in de zorg, kan een groot deel van deze problemen in de toekomst wellicht verleden tijd zijn. Hoe verhouden de Nederlandse zorg en AI zich momenteel tot elkaar? Waar liggen kansen? En waar ligt de grens van de inzet van ‘AI-artsen’? Evert Stamhuis, hoogleraar Law and Innovation aan Erasmus School of Law, en Martin Buijsen, hoogleraar Gezondheidsrecht aan Erasmus School of Law, positioneren AI in de zorg van vandaag en morgen.
AI is tijd- en kostenbesparend, wordt in tegenstelling tot artsen niet moe en biedt consistentie in diagnoses waar verschillende artsen dit niet altijd kunnen. Dat ziet ook Stamhuis: “Met geavanceerde data gedreven technologie, zoals verschillende types lerende algoritmes, kunnen in de gezondheidszorg verschillende doelen bereikbaar worden. Daarbij moet wel rekening gehouden worden met de variatie in ons zorgstelsel, zoals eerstelijns huisartsenzorg, verpleging en verzorging aan huis, ziekenhuisverpleging, intensive care, specialistische handelingen, zoals diagnose en therapeutisch ingrijpen. Daarnaast is een ruim aanbod aan medische apps die voor ieder toegankelijk zijn om medische checks te doen, zoals Fibricheck voor het testen van je hartritme.”
Voor- en nadelen in de context
Om de voor- en nadelen te begrijpen, moet gekeken worden naar de context van een AI-toepassing, volgens Stamhuis: “De spreekkamer van de toekomst zal bijvoorbeeld een ander beroep op deze technologie doen dan de diagnose met medische beeldvorming en daarmee zal ook de consequentie voor zowel de zorgverlener als de ontvanger variëren in de zin van ethische en juridische verwachtingen. Wat transparantie – zo’n populair vereiste voor algoritmegebruik - daadwerkelijk betekent wordt naar mijn overtuiging bepaald in die concrete contexten.”
“We moeten dus verder kijken dan alleen assistentie of vervanging van dokters,” vervolgt Stamhuis. “Denk aan de IC verpleging, waar in de komende tien jaar een grote behoefte aan data gedreven ondersteuning verwacht wordt om het niveau van de zorg te kunnen handhaven.”
Hoogleraar Gezondheidsrecht Martin Buijsen ziet hier nu al praktijkvoorbeelden van: “Onlangs hebben de Santeon ziekenhuizen, een groep van grote niet-academische opleidingsziekenhuizen waaronder het Rotterdamse Maasstad ziekenhuis, Pacmed Critical-Discharge gekocht; AI die een inschatting maakt van het risico op heropname of overlijden van een patiënt binnen zeven dagen na ontslag van een IC-afdeling. De tool ondersteunt op deze wijze IC-personeel bij het nemen van ontslagbeslissingen.”
“Tegelijkertijd heeft AI wel haar eigen faalfactoren”, waarschuwt Stamhuis, “zodra we dat onderkennen, wordt het ook voor de jurist interessant, want dan komen verantwoordelijkheids- en aansprakelijkheidsvraagstukken op tafel. We zien dat de rechtsontwikkeling daar nog lang niet klaar is, ook al zal bijvoorbeeld vanuit de EU-harmonisatie komen voor toelating van AI-systemen en voor productaansprakelijkheid.”
Overenthousiast
AI is een relatief nieuwe en snel ontwikkelende techniek, waardoor er nog redelijk veel moet gebeuren om tot een succesformule te komen, ziet ook Stamhuis: “Een punt van zorg is dat het enthousiasme gaat heersen over de beloftes over bedachtzaamheid. Dan worden allerhande ethische, juridische, sociale, economische en culturele aspecten verwaarloosd. Belangrijk is de vraag naar de verandering van de rechtsverhoudingen in de zorgketen, maar net zo belangrijk is of de toegang tot goede zorg nu juist verbetert of verslechtert. Dat geldt in ons land, maar ook mondiaal . Wanneer komen deze dure technologieën ter beschikking van de gezondheidszorg in zwakkere economieën? En zijn de algoritmes eigenlijk wel geschikt voor verspreiding als ze vooral getraind zijn op data van patiënten in de rijke bovenhelft van de aardbol?”
“Daarnaast is wet- en regelgeving onvoldoende toegesneden op data gedreven medisch onderzoek en ontwikkeling. De regeling voor persoonsgegevens leunt bijvoorbeeld heel zwaar op de individuele zelfbeschikking over data, wat van weeromstuit druk oplevert om dan maar een blanco instemming van de patiënt te vragen. Dat is echt geen goed idee, alleen al omdat dan de afweging van het belang van een concreet onderzoek uit het beeld dreigt te raken. Ook over de vrijwilligheid – een kernvereiste in de huidige wet – heb ik dan mijn twijfels”, concludeert Stamhuis.
- Professor
- Professor