‘Ik zie angst en spookverhalen over AI als nieuwe technologie’

Universitair hoofddocent Mirjam Plantinga ziet het als haar taak om een realistisch beeld te schetsen over kunstmatige intelligentie (AI). Ze is projectleider bij het ELSA AI Lab Northern Netherlands (ELSA-NN), een lab voor de verantwoorde ontwikkeling en toepassing van AI in de zorg. In deze aflevering van de JTS Scholars vertelt ze over de (on)mogelijkheden van kunstmatige intelligentie. ‘Bij de inzet van AI mogen we de fundamentele zorgvragen niet uit het oog verliezen.’

Tekst: Jelle Posthuma

Onlangs was Plantinga betrokken bij de theatervoorstelling Kladiladi (een afkorting voor ‘klap die laptop dicht’). Ze werd benaderd door een theatermaakster die een stuk had geschreven over de impact van AI op de samenleving en de zorgen die daarbij spelen. Plantinga werd gevraagd als expert voor het gesprek ná de voorstelling. ‘Het stuk gaat over persoonlijke vragen en de rol die AI daarin kan spelen. AI kan veel, maar lost onze persoonlijke vraagstukken niet voor ons op. Dat vond ik een sterk verhaal.’

Met het stuk én de nabespreking wilden Plantinga en de makers de positieve kanten van AI belichten. Na afloop besprak ze de mogelijkheden van de technologie en kreeg veel enthousiaste reacties. ‘Mensen vonden het interessant om meer te leren over AI. Ze zagen dat het theaterstuk een uitvergroting was en wilden weten wat er écht mogelijk is. Vooral bij oudere doelgroepen merk je angst en spookverhalen rond de nieuwe technologie. Met onze lezing wilden we die angst en het onbegrip wegnemen en een realistisch beeld schetsen van AI.’

Verantwoorde innovatie in de zorg

Een zo breed mogelijke doelgroep vertellen over de mogelijkheden van kunstmatige intelligentie, dat ziet Plantinga als een belangrijke taak. Haar onderzoek richt zich op innovaties in de gezondheidszorg en sluit nauw aan bij haar werk als projectleider bij het ELSA AI Lab Northern Netherlands (ELSA-NN). Daar staat de verantwoorde ontwikkeling en toepassing van AI in de zorg centraal. ‘AI heeft een grote impact op de maatschappij, en dat brengt verantwoordelijkheid met zich mee. We moeten niet alleen de kansen, maar ook de risico’s en uitdagingen onder ogen zien, bijvoorbeeld  op het gebied van soevereiniteit en klimaat. Onze keuzes over verantwoorde AI moeten we baseren op onze waarden en principes, zodat wetgeving en technologie daarop kunnen worden afgestemd.’

De mogelijke toepassingen van AI in de zorg zijn zeer divers, zegt Plantinga. Het kan gaan om behandelbesluitvorming, diagnostiek of administratieve processen. ‘Er wordt enorm veel ontwikkeld, maar door wet- en regelgeving is het in de zorg nog niet altijd mogelijk of wenselijk om AI-modellen breed toe te passen. Thuis gebruiken we taalmodellen heel anders dan in het ziekenhuis. In het UMCG werken we bijvoorbeeld met duidelijke afspraken, binnen een afgeschermde omgeving, zodat gevoelige data binnen de muren van het ziekenhuis blijft.’

AI kan de zorg ondersteunen, maar de praktijk staat nog aan het begin. Bij behandelbesluitvorming bevindt de inzet van AI zich vaak nog in de onderzoeksfase, legt Plantinga uit. De toepassingen in de dagelijkse zorgpraktijk zijn voorlopig beperkt. ‘Wel worden taalmodellen steeds vaker gebruikt om samenvattingen van patiëntendossiers te maken.’ Vaak wordt gezegd dat AI de werkdruk in de zorg kan verlichten, bijvoorbeeld door conceptantwoorden te genereren of gesprekken automatisch uit te werken. ‘Maar wat ze uiteindelijk opleveren, dat moet de data nog uitwijzen.’

Fundamentele vragen

AI-antwoorden kunnen tijd besparen, maar een arts moet ze alsnog nalopen, zegt de onderzoeker. ‘De vraag is in hoeverre het écht helpt. Het kan ook dat mensen juist meer berichten gaan sturen, omdat ze sneller of laagdrempeliger een reactie krijgen. Dan is het de vraag of de werkdruk daadwerkelijk afneemt. Verwachtingen en normen kunnen verschuiven, juist omdat de technologie dat mogelijk maakt.’

Bij de inzet van AI mogen we de fundamentele zorgvragen niet uit het oog verliezen, benadrukt Plantinga. ‘Dat is een valkuil. Misschien verlaagt AI de werkdruk, maar we moeten ook de oorzaken van die druk blijven bevragen. We willen met AI niet problemen oplossen die we zelf onterecht hebben gecreëerd. Het probleem blijft bestaan, ook als we het met technologie beheersbaar maken.’

Data en beperkingen

Bij behandelbesluitvorming biedt AI in de toekomst talloze mogelijkheden, maar ook hier zijn belangrijke kanttekeningen te plaatsen, weet de onderzoeker. AI-modellen zijn vaak gebaseerd op medische gegevens, omdat daar voldoende data voor beschikbaar zijn. ‘Factoren als mentale gezondheid of iemands leefomgeving zijn lastiger te meten en kunnen daarom buiten beeld blijven, terwijl juist dat holistische perspectief belangrijk is.’

AI kan eveneens goed werken bij het analyseren van scans, omdat het enorme hoeveelheden data kan verwerken en patronen herkent. ‘Maar voor uitzonderingen is minder data beschikbaar, waardoor die minder goed worden herkend. Bovendien snapt een AI-model de data niet, maar brengt alleen patronen of afwijkingen in kaart en sommige afwijkingen betekenen medisch gezien weinig tot niets. Als er te veel afwijkingen gevonden worden die medisch gezien niets betekenen, gaat dat de zorg niet helpen. Er is zelfs een voorbeeld van een AI-model dat de overlevingskans van een patiënt voorspelde op basis van het watermerk van een ziekenhuis. Dat zou een arts natuurlijk nooit overkomen.’

Juist daarom moet de mens ‘in control’ blijven, weet Plantinga. ‘Het blijft mensenwerk. Er is vakkennis nodig om AI-uitkomsten te beoordelen. Kunstmatige intelligentie is slim in de zin dat het veel data kan verwerken, maar het kan niet kritisch reflecteren en heeft geen moraal. Die menselijke eigenschappen ontbreken.’

Interdisciplinaire samenwerking

Als Scholar van de Jantina Tammes School wil Plantinga zich richten op interdisciplinaire samenwerking. ‘Een technicus kan uitleggen hoe de technologie achter AI werkt, terwijl een sociale wetenschapper bijvoorbeeld kan ingaan op wat het voor onze maatschappij betekent. De Jantina Tammes School brengt dit samen. Ook het brede netwerk van de School is belangrijk, omdat we zo verschillende mensen kunnen bereiken. Het ‘Jouw Technologie van Morgen’ programma is daar een mooi voorbeeld van. Als Scholar wil ik een zo breed mogelijk netwerk bereiken.’