De ethische kant van AI in de zorg: een toolkit voor betrouwbare AI-toepassingen

Vanuit het zorgveld was veel behoefte aan concrete handvaten voor de ontwikkeling en inzet van ethisch verantwoorde AI-toepassingen. De focus lag vooral op modelontwikkeling en techniek, maar weinig op de dialoog over waarden die geborgd moeten worden. Senior adviseur patiëntenbelang bij de Nederlandse Patiëntenfederatie, Ildikó Vajda en Danielle Sent, associate professor verbonden aan de Jheronimus Academy of Data Science (JADS) en de Hogeschool Utrecht, gingen samen met een team van collega’s aan de slag met dit vraagstuk. De samenwerking ontstond nadat Ildikó inspiratie vond in de serious game ‘Ethics Inc’ ontwikkeld door de Hogeschool Utrecht en de Stichting Toekomstbeeld der Techniek (STT). Het spel is gebaseerd op de Europese richtlijnen ‘Ethics Guidelines For Trustworthy AI’, dat spelers uitdaagt om een betrouwbare AI-toepassing te ontwikkelen die voldoet aan alle relevante ethische vereisten. 

Ildikó en Danielle delen een sterke interesse in het onderwerp AI. Dit betekent niet dat ze altijd hetzelfde perspectief hebben. Juist deze verschillende invalshoeken leidden tot hele concrete handvaten voor ethisch verantwoorde ontwikkeling en inzet van AI. Danielle vertelt: ‘We hadden bij de ontwikkeling van het spel en de toolkit vaker stevig inhoudelijke discussies, die altijd resulteerden in een constructieve oplossing. Ook merkten we dat gedurende de dialoogsessie de verschillende betrokkenen, zoals patiënten of zorgverleners uiteenlopende belangen hadden. Het is voor de spelers dan ook belangrijk om deze belangen zoveel mogelijk tegen elkaar af te wegen en mee te nemen.’

Binnen het project ‘Ethical appraisal of AI-driven MedTech for Trustworthy AI’ zijn verschillende tools ontwikkeld. Omdat de onderwerpen AI en ethiek rondom AI basiskennis vereisen, is een masterclass ontwikkeld voor patiëntvertegenwoordigers. Ook zijn rondom de verschillende casussen (ook wel use-cases) patiëntenreizen gemaakt: waar in het zorgproces zou de toepassing gebruikt worden? Daarna is het aan de diverse stakeholders om met elkaar de waardendialoog aan te gaan over het te ontwikkelen product. Welke ethische eisen zijn er? Zijn die voor alle belanghebbenden gelijk of moeten ze aangepast worden zodat iedereen zich erin kan vinden? En welke eisen zijn noodzakelijk om te borgen en welke wenselijk? Een van de manieren om dit gesprek met elkaar aan te gaan, is de serious game of dialoogtool Moral Medtech. De kracht van het spel zit hem in de vorm. ‘Het spel heeft een kop en een staart, waardoor je na elke keer spelen de waarden ophaalt, afweegt en gezamenlijk besluiten neemt welke door de belanghebbenden essentieel gevonden worden. Ook kun je steeds weer toetsen of daaraan voldaan is, zegt Ildikó. Danielle vult aan dat stakeholders het spel idealiter een aantal keer tijdens bijvoorbeeld de ontwikkelfase doorlopen. ‘Het gaat niet om praten en afvinken, het is de dialoog die telt in de context van de toepassing. Elke keer dat het spel wordt gespeeld, worden er gezamenlijk eisen geformuleerd voor een ethisch verantwoorde (door)ontwikkeling van een toepassing. Het is een iteratief proces.’ Bij een volgende stap in de ontwikkeling of implementatie, moet gekeken worden of aan de geformuleerde vereisten voldaan is en welke nieuwe vereisten in de volgende versie van de toepassing geborgd moeten worden.'

Inspraak van patiënten is niet wettelijk verplicht, maar zorgt wel voor applicaties die beter aansluiten bij de behoeften en waarden van patiënten. Hierdoor gaat implementatie in de praktijk ook soepeler. Zeker als het gaat om toepassingen die AI gebruiken en ethische uitdagingen kennen. 

Om patiënten ook in de toekomst voldoende achtergrondkennis over AI in de zorg te geven, werkte de projectgroep aan een leerlijn AI in de zorg bij Involv. Binnen de leerlijn, die voor iedereen toegankelijk is, willen ze zoveel mogelijk patiënten trainen in het voeren van de waardendialogen rondom AI-toepassingen. Ook willen ze de Moral Medtech dialoogtool als workshop aanbieden. Hiervoor moeten gespreksleiders (spelleiders) worden opgeleid. Het doel is om zo een netwerk van spelleiders te vormen, die genoeg achtergrond hebben om het spel effectief te begeleiden. 

Bij het ontwikkelen van een toolkit of een hulpmiddel voor de zorg moet je rekening houden met meerdere gebruikers. Bij veel medische applicaties is de directe gebruiker een zorgverlener, maar direct of indirect heeft het product of systeem invloed op gezondheid en welzijn van de patiënt. Daardoor moet deze een belangrijke stem krijgen. 

Dit hangt ook samen met het feit dat het toepassen van AI erg populair is, maar AI voor veel mensen nog ongrijpbaar blijft. Danielle: ‘Als ik het vergelijk met een hartlongmachine; ik ben ook niet geïnteresseerd in het werkingsmechanisme of de specifieke leverancier. Ik wil gewoon weten dat de machine werkt. Ik heb vertrouwen dat wanneer een apparaat goedgekeurd is, het verantwoord ingezet kan worden. Met AI is het wat complexer. Het is voor velen nog een abstract begrip, dus je moet wat meer uitleg geven en een stukje angst wegnemen.’ Het vroeg betrekken van de patiënt bij de ontwikkeling van AI-toepassingen, neemt die angst al deels weg. Ook verwacht Ildikó dat deze angst afneemt, naarmate AI vaker wordt ingezet en meerwaarde laat zien. Op den duur wil je dat de inzet van AI, als deze betrouwbaar is, net zo vanzelfsprekend is als andere medische technologische toepassingen, zoals een hartlongmachine.’

Om de toekomstige zorg goed en betaalbaar te houden, kan AI echt een betekenisvolle bijdrage leveren. Wel moeten we de techniek verantwoord inzetten. Danielle: ‘AI is niet direct kosten- of arbeidsbesparend, de kosten en werkdruk worden eigenlijk verschoven. Daarnaast is er vaak sprake van zogenaamde puntoplossingen, waardoor het aantal AI-modellen toeneemt. We moeten voorkomen dat een zorgverlener straks voor elke aandoening een ander AI-model hanteert. Ook moeten we beter inventariseren welke problemen er liggen en welke rol AI kan spelen in het oplossen van die problemen. Wanneer een AI-toepassing een oplossing voor een probleem biedt èn aansluit bij de werkwijze, wordt deze eerder gebruikt. We moeten voorkomen dat we AI alleen ontwikkelen omdat het kan.'

Nu het project is afgerond, kijken Ildikó en Danielle richting implementatie van de toolkit. Daarbij besteden ze veel aandacht aan de meerwaarde van ethiek. ‘We willen niet dat de ethische kant van AI wordt gezien als een verplicht hoepeltje om doorheen te springen. Om ethiek te borgen in het ontwikkel- en implementatieproces van AI-toepassingen, moeten alle stakeholders de meerwaarde ervan inzien. We willen ethiek concreter maken en aantonen dat het voorbedacht meewegen van ethische aspecten ook daadwerkelijk betere of meer verantwoorde producten oplevert', zegt Ildikó. Danielle vult aan: 'Als leveranciers, zorgverleners en patiënten samenkomen om iets te ontwikkelen dat aansluit bij behoeftes van mensen, halen we het maximale uit de inzet van AI.’