Generatieve AI in de zorg: eerste resultaten uit landelijk onderzoek

Tussentijdse resultaten laten zien dat ambient AI scribe kansen biedt voor het ondersteunen van zorgprocessen, maar ook nieuwe vragen oproept over betrouwbaarheid, privacy en de impact op zorgprofessionals.

Het RIGH:T-consortium is een landelijke samenwerking van zorginstellingen, onderzoekers en andere stakeholders die een praktisch validatieframework ontwikkelen voor generatieve AI in de zorg. Daarmee willen zij zorgorganisaties helpen bepalen wanneer en hoe deze technologie veilig en verantwoord kan worden toegepast. De eerste versie van het framework wordt verwacht in 2027, maar tussentijdse inzichten worden al zo veel mogelijk gedeeld met de sector.  

De inzet van ambient AI scribes neemt snel toe. Deze AI-assistent luistert tijdens gesprekken mee en genereert automatisch een conceptverslag of dossiernotitie. Hoewel de technologie administratieve lasten kan verminderen en zorgverleners kan ondersteunen bij verslaglegging, roept het ook vragen op over betrouwbaarheid, privacy en de invloed op de dagelijkse zorgpraktijk. 'De vraag is niet alleen of het technisch werkt, maar ook wat de impact is op het werk van zorgprofessionals en de kwaliteit van zorg,' zegt Imke Bloemen, promovenda Datahub Erasmus MC. 'Juist daarom is het belangrijk om dit soort toepassingen systematisch te valideren in de praktijk.'

Het validatieframework kijkt verder dan alleen de technische prestaties van AI en kan daarom worden ingezet als evaluatiestandaard. Het validatieframework richt zich op 3 domeinen: kwaliteit van documentatie, maatschappelijke waarden en invloed op de zorgverlener en patiënt. Volgens het consortium is juist die brede benadering nodig om zorgorganisaties te ondersteunen bij de verantwoorde inzet van generatieve AI.

Uit de eerste ethische workshops blijkt dat de impact van generatieve AI vaak 2 kanten heeft. 
Aan de ene kant zien onderzoekers kansen voor betere verslaglegging, ondersteuning bij hoge werkdruk en mogelijk een hogere kwaliteit van zorg. Aan de andere kant zijn er duidelijke aandachtspunten.

'Wat we zien, is dat AI zowel kan helpen als nieuwe risico’s introduceert, en die balans verschilt per situatie,' aldus Imke. Zo is er aandacht voor het risico op deskilling, waarbij zorgprofessionals minder actief bepaalde vaardigheden gebruiken. Ook speelt het zogenoemde chilling effect, waarbij patiënten en artsen hun gedrag aanpassen omdat gesprekken worden opgenomen. Daarnaast blijkt dat de verwachte tijdswinst niet altijd wordt gerealiseerd. 'Veel zorgverleners verwachten tijd te winnen, maar in de praktijk kost het controleren van AI-output ook tijd,' zegt Imke. 'Dat betekent dat je goed moet kijken naar waar het echt waarde toevoegt. Aan ons de taak om dit soort risico’s meetbaar te maken in een validatie framework.'

Een belangrijke conclusie is dat de werking en impact van AI sterk afhankelijk zijn van de context, zoals het type consult, de werkprocessen en de organisatie waarin de technologie wordt gebruikt. 'Er is geen one size fits all,' zegt Imke. 'Juist daarom moet je in de eigen praktijk testen en valideren.'

Met het framework werkt het consortium toe naar een landelijke aanpak voor de inzet van generatieve AI in de zorg. De eerste resultaten laten zien dat de behoefte aan een duidelijke evaluatiestandaard groot is, terwijl de ontwikkeling van de technologie snel doorgaat. 'De inzet van ambient AI scribes in de zorg gaat razendsnel, maar de vraag wanneer het echt verantwoord is, blijft nog onvoldoende beantwoord,' aldus Imke. Door praktijkervaring, ethische afwegingen en input van betrokkenen te combineren, wil het consortium zorgorganisaties handvatten bieden om generatieve AI veilig en verantwoord toe te passen in de praktijk.