RIGH:T: ontwikkeling van een validatieframework voor generatieve AI-systemen in de zorg

Aanleiding / achtergrond
Zorgverleners besteden 30-40% van hun werk aan administratieve taken. Ambient listening (spraakherkenning gecombineerd met generatieve AI) kan deze last verminderen door gesprekken automatisch om te zetten in gestructureerde verslagen of zelfs orders en registratie. Momenteel worden beperkt gevalideerde commerciële producten versneld geïmplementeerd. Dit brengt risico’s met zich mee voor de kwaliteit van zorg en patiëntveiligheid. Met deze subsidie wordt in consortiumverband een validatieframework voor taalmodellen in de zorg ontwikkeld, met toetsing hiervan op ambient listening technologie voor diverse toepassingen, zodat alle zorgsectoren hiervan kunnen profiteren. Het op te richten consortium betreft het Nederlands Consortium voor Verantwoorde Implementatie van Generatieve AI in de Zorg (RIGH:T). Het overstijgende doel van het consortium is validatie, implementatie en opschaling van generatieve AI te vergemakkelijken voor alle zorgsectoren.

Doel 
Het doel van het RIGH:T consortium is het waarborgen van verantwoorde implementatie van generatieve AI in de zorg, waarbij validatie de eerste, maar noodzakelijke stap is. Met het huidige project wordt dan ook beoogd om validatie op een uniforme wijze vorm te geven in een validatieframework en toe te passen, waarbij ambient listening technologie gebruikt wordt als use case. Hierbij wordt de onderliggende technologie (transcriptiesoftware en taalmodellen) getoetst op betrouwbaarheid voor verschillende klinische toepassingen. Daarmee wordt het validatieframework getoetst aan deze use case, waardoor ook andere en toekomstige toepassingen gevalideerd kunnen worden in alle zorgsectoren. Dit waarborgt de verantwoorde implementatie van taalmodellen in de gehele Nederlandse zorg. Daarnaast zullen leden van het consortium actief kennis en ervaring delen met andere zorginstellingen en zorgsectoren.

Aanpak / werkwijze 
Ambient listening technologie bestaat uit 3 componenten: transcriptie, taalmodel en toepassing. De transcriptie is de input voor het taalmodel, dat vervolgens op specifieke instructie (die per toepassing zal verschillen) een gestructureerd verslag maakt. Het is nog niet wetenschappelijk onderzocht hoeveel fouten de transcriptiestap bevat voor verschillende medische toepassingen, of wat een acceptabele foutmarge is voordat deze door een taalmodel kan worden samengevat tot een notitie. Ook is niet onderzocht hoe verschillende taalmodellen hiermee omgaan, of wat de invloed is van verschillende instructies (prompts) op de uiteindelijke notitie. In dit project wordt een validatieframework ontwikkeld waarin voor verschillende transcriptiesoftware en taalmodellen voor verschillende toepassingen per stap beoordeeld wordt hoeveel fouten er gemaakt worden, wat voor type fouten dit zijn en of deze fouten dan ook klinisch relevant zijn. Immers hoeft niet iedere fout in een transcriptie te leiden tot een fout in de uiteindelijke notitie. Op basis van de ervaringen wordt methodiek opgesteld hoe te beoordelen wat een acceptabele foutenmarge is in alle stappen van ambient listening technologie voor de verschillende toepassingen. Betrouwbare validatie heeft dus een technische, klinische en maatschappelijke component. De kwaliteit wordt door middel van een cyclisch proces (WP1 en WP2) gemonitord zodat het validatieframework herhaaldelijk verbeterd kan worden. De toepassingen worden verdeeld over de centra, waarbij gestreefd wordt om een academisch centrum te koppelen aan een niet-academische zorginstelling. Alle onderzoeken zullen dezelfde structuur bevatten: kwantitatieve en kwalitatieve beoordeling van verschillende transcriptiesoftware, en kwantitatieve en kwalitatieve beoordeling van verschillende taalmodellen volgens het te ontwikkelen validatieframework. Het opstellen van het validatieframework is een iteratief proces, waarbij gestart wordt in 1 zorgsector, maar vervolgens in meerdere zorgsectoren wordt getoetst en verbeterd. Het proces start in de medisch-specialistische zorgsector, zodat techniek en meetmethoden aangescherpt kunnen worden. Na eerste iteratie van het framework zullen de eerstelijnszorg, Verpleeg- en Verzorgingshuizen en Thuiszorg (VVT) en geestelijke gezondheidszorg (GGZ) meedoen om het framework te toetsen en verbeteren. Deze gefaseerde aanpak is noodzakelijk om efficiënt te werken en uiteindelijk een breed gedragen en sectoroverstijgend validatieframework te waarborgen. Verschillende eerstelijns(koepel)organisaties zullen betrokken zijn bij het consortium als stakeholder om de belangen vroegtijdig te behartigen en input te leveren.

Samenwerkingspartners
Voor deze subsidie werken de volgende partijen samen: Elizabeth TweeSteden Ziekenhuis (ETZ), umcg, Erasmus MC, UMC Utrecht, Leiden UMC, Maasstad Ziekenhuis, Frisius Medisch Centrum (voorheen MC Leeuwarden) en GGZ Noord-Holland-Noord. De overige partijen (stakeholders en adviesorgaan) uit het consortium zijn: Patiëntenfederatie, VVT (Actiz, CNIO VVT Netwerk), NHG, GGZ, Digizo, TNO en Nivel.

Verwachte resultaten
Validatie is een essentiële stap voor verantwoorde implementatie. Het belangrijkste doel van het validatieproject is de waarborging van veiligheid en betrouwbaarheid van deze technologie, waardoor de kwaliteit van zorg gewaarborgd wordt bij toekomstige implementatie en opschaling. De beoogde impact is daarom te verwachten op het gebied van veiligheid; niet primair op administratieve lastenverlichting. Er worden in principe dan ook geen uitkomstmaten gedefinieerd met betrekking tot administratievermindering aangezien dit buiten de scope van dit project valt. De toekomstige projecten van het consortium zullen zich gaan richten op de stap na validatie, waardevolle implementatie.