Sessie 11: AI in de farmaceutische zorg: Effectiviteit, Ethiek en Ervaring

Enorm zware therapie

Internist-oncoloog Karijn Suijkerbuijk (UMC Utrecht) vertelt over de PREMIUM-studie naar het voorspellen van de immuuntherapierespons bij een uitgezaaid melanoom. ’Mede door immuuntherapie is de overleving sterk verbeterd. 10 jaar geleden stierven de meeste patiënten nog binnen een jaar, nu overleven de meesten 3 jaar en sommigen genezen zelfs. Maar voor de helft van de patiënten helpt immuuntherapie niet. Het is een enorm zware behandeling met vaak levenslange bijwerkingen. En immuuntherapie is ook nog eens erg duur. Je wilt het liefst voorspellen bij wie het aanslaat en bij wie niet.’ 

Samen beslissen

In de studie zijn meer dan 2.000 patiënten geïncludeerd. Het blijkt dat AI-analyse inderdaad bijdraagt aan een betere voorspelling. Klinische gegevens hebben voorspellende waarde. AI-analyse van CT-scans ook, maar deze is niet beter dan een voorspelling op basis van klinische gegevens. Suijkerbuijk: ‘Wat wel echt bijdraagt, is een AI-analyse van pathologische gegevens. Dat werkt beter dan alleen handmatig scoren van het pathologiebeeld.’ Is het AI-model klaar voor gebruik? ‘We kunnen nu een hogere of lagere kans identificeren, maar geen 100% voorspelling doen. Het komt dus neer op samen beslissen. Wie jong en sterk is, wil misschien wel gaan voor 25% kans op respons. Als je veel ouder bent, kies je daar misschien liever niet voor.’ 

Afbeelding

Hallucineren onder controle

De tweede presentatie is van Firdaouss Boutkourt, openbaar apotheker en docent farmacologie aan de Universiteit Utrecht. Ze vertelt over een AI-tool voor de instellingsfarmacie in de intramurale zorg. ‘Onze tool helpt bij de voorbereiding van de medicatiebeoordeling. Je wilt elke patiënt goede farmaceutische zorg bieden en tijd mag niet de bottleneck zijn. We hosten de tool zelf. We kunnen er dus zelf aan sleutelen en de data blijven allemaal intern. Omdat we zelf onze prompts beheren, hebben we het zogeheten ‘hallucineren’ (AI-onzin op basis van een verkeerde interpretatie door de tool) goed onder controle. De tool geeft een advies en dat wordt altijd door de apotheker gecheckt met het betreffende dossier.’ 

Tot 80% tijdwinst

In de intramurale ouderenzorg gaat het om gemiddeld 1.000 medicatiebeoordelingen per jaar per apotheker. Een AI-tool brengt structuur aan in grote hoeveelheden dossierinformatie en dat levert volgens Boutkourt tot 80% tijdwinst op bij complexe polyfarmaciepatiënten. ‘We kunnen nu 20 tot 30 patiënten bespreken in ruim 2 uur. Je hoeft veel minder te zoeken en te scrollen in dossiers, en hebt dus meer tijd voor het analyseren. Ook komt er ruimte vrij voor directe patiëntenzorg.‘ Een volgende stap is de integratie van clinical rules in de AI-tool. Die kan dan vanuit het dossier een interventievoorstel genereren, als basis voor een professioneel besluit. ‘Bij de inzet van AI staat dit steeds voorop: de professional blijft eindverantwoordelijk.’ 

Ondersteunend model

Uit de zaal komt de vraag of dit nu een medical device is, waarvoor een certificering nodig is, of een ondersteuning. Boutkourt: ‘Onze tool geeft geen klinisch oordeel, maar brengt alleen dossierinformatie samen. En zelfs als we die volgende stap zetten, blijf je als professional altijd het uiteindelijke behandelvoorstel formuleren. Het is dus een ondersteunende tool.’ 

Panel: Hoe toepasbaar is AI in de dagelijkse praktijk?

De inzet van AI in de farmaceutische zorg is vanuit verschillende invalshoeken te bekijken. Onder leiding van sessievoorzitter Joanna Klopotowska (Amsterdam UMC) bespreken een panel met 4 deskundigen en de zaal wat er nodig is om AI verantwoord en ethisch toepasbaar te maken in de dagelijkse praktijk.

Data zijn geen kennis

Met de eerste stelling is vrijwel iedereen in de zaal het niet eens: ‘Als AI en de zorgprofessional het oneens zijn over de behandeling, moet de voorkeur van de patiënt doorslaggevend zijn.’ Klopotowska: ‘De vraag is in een dergelijk geval deze: waaróm zijn AI en de professional het oneens? Het kan mede samenhangen met dingen uit de context van de patiënt die de AI-tool niet weet.’ Menno Maris (Amsterdam UMC) reageert hierop: ‘De kennis vanuit AI is handig, maar geeft je inderdaad nog niet per se alle informatie die je nodig hebt.’ Ildikó Vajda, senior-adviseur Patiëntbelang: ‘De meeste patiënten zouden die waarom-vraag zeker stellen. Hoe kun je anders samen beslissen? Het is belangrijk goed uit te leggen dat het om waarschijnlijkheden gaat; om informatie in termen van kansen en risico’s. AI levert dus geen zekerheden. AI is data-gebaseerd en data zijn nog geen kennis.’ 

Afbeelding

Transparante werking

Stelling 2: ’Het is van cruciaal belang voor de patiënt om te weten op basis waarvan een AI-tool in de zorg een keuze maakt of advies geeft.’ Een tegenstemmer: ‘Van een richtlijn weet je dat ook niet als patiënt. Dus cruciaal lijkt het me niet. Maar het moet wel transparant zijn hoe de tool werkt.’ Een voorstemmer: ‘De patiënt moet zo goed mogelijk geïnformeerd zijn, dus ook hierover.’ Een derde: ‘Het is in elk geval nodig te weten welke informatie een tool gebruikt. Als die bijvoorbeeld geen buitenlandse behandelmogelijkheden meeneemt, moet je weten dat je alleen te zien krijgt wat er in Nederland beschikbaar is.’ Nog een voorstemmer: ‘Als de tool een voorstel doet omdat hij bepaalde bijwerkingen zwaar laat meetellen, is dat zinvolle informatie. Misschien wil jij die bijwerkingen als patiënt best accepteren.’ 

Rationale goed uitleggen

Ildikó Vajda (Patiëntenfederatie Nederland): ‘Je kunt informatie over AI op verschillende niveaus geven. Aan een arts leg je het anders uit dan aan de patiënt. Maar de rationale is wel belangrijk, dus: hoe werkt deze AI-tool? Zoals je ook uitlegt hoe de effectiviteit van een geneesmiddel is onderzocht. Of hoe richtlijnen tot stand komen.’ Maris: ‘Maar soms is het gewoon te ingewikkeld om uit te leggen. Neem een tool die de effectiviteit van een hersentumorbehandeling voorspelt. Op detailniveau is dat te complex.’ Boutkourt: ‘Zeker nu mensen zelf meer dingen uitzoeken, vragen patiënten vaak: maar waarop is dit gebaseerd? Ik vind dat je zeker basale informatie moet geven hoe de AI-tool werkt. Mensen vertrouwen het soms niet, omdat ze hebben gelezen over hallucinerende AI. Dan kun je uitleggen dat jouw tool dat niet doet.’ Klopotowska: ‘Het is ook goed te beseffen dat je in de zorg niet alles in data kunt proppen. We moeten hoe dan ook goed nadenken over hoe we AI positioneren in beslissingen over een behandeling.’  

Kaf van het koren scheiden

Op Stelling 3 moeten panel en deelnemers even kauwen: ‘Als een AI-model onvoldoende zekerheid biedt om een patiënt een behandeling te ontraden, zou deze ook niet gebruikt moeten worden om samen met de patiënt de ‘beste’ behandeling te kiezen.’ Uit de zaal komt een reactie: ‘Je hebt nooit 100% zekerheid. Het is dus altijd een afweging tussen mogelijkheden, en dat was vroeger niet anders. AI kan wel het kaf van het koren scheiden uit een grote berg informatie. Maar uiteindelijk nemen arts en patiënt samen een beslissing. Het is een utopie dat we naar absolute zekerheid gaan, langs welke weg dan ook.’  

Prospectieve studies nodig

Suijkerbuijk: ‘Ons model blijkt de marge van onzekerheid te verminderen. Maar die onzekerheid wordt inderdaad niet 0. Toch is deze vermindering van waarde voor het beslisproces, want je kunt beter geïnformeerd kiezen op basis van risico’s en kansen. Een model dat misschien net niet goed genoeg is voor dat ‘ontraden’, kan intussen wél geschikt zijn voor het samen beslissen, vanwege de informatie over onzekerheden en risico’s.’ 
Klopotowska ten slotte: ‘Je laat AI scoren wat je anders in je hoofd zou doen. Als we heel precies zouden weten waarvan de effectiviteit van immuuntherapie afhangt, wisten we ook beter wat we in de geautomatiseerde scores kunnen meenemen. AI heeft toegevoegde waarde, maar om te kunnen beslissen wanneer een model goed genoeg is, heb je prospectieve studies nodig. Nu gaat het vooral nog om validatie van de tools. Laten we dus vooral nog veel onderzoek doen naar de toepasbarheid van AI.’