JTS Grassroots Grant: ‘Hoe om te gaan met de dynamiek van AI’
Met steun van de JTS Grassroots Grant werd onlangs een rondetafelsessie georganiseerd over het gebruik van AI-systemen in de gezondheidszorg en mobiliteit. De bijeenkomst op 27 maart bij de faculteit Rechtsgeleerdheid van de Rijksuniversiteit Groningen leidde tot nieuwe inzichten en mogelijkheden voor toekomstig onderzoek.
Kunstmatige intelligentie (AI) biedt veel kansen, zeker binnen de gezondheidszorg en mobiliteit. AI kan de administratieve last van zorgprofessionals verlichten, ondersteuning bieden bij medische ingrepen en helpen bij het diagnosticeren van patiënten. In de mobiliteitssector kan AI het verkeer veiliger maken door voertuigautomatisering. Dit kan leiden tot minder verkeersdoden.
Tegelijkertijd brengt het gebruik van AI in deze sectoren ook veel uitdagingen met zich mee, niet in de laatste plaats op het gebied van wetgeving. Met behulp van de JTS Grassroots Grant werd onlangs een expert-rondetafelsessie georganiseerd, waarin professionals uit de gezondheidszorg, mobiliteit en de academische wereld samenkwamen om deze uitdagingen te bespreken en nieuwe benaderingen voor de veiligheidsbeoordeling van voertuigen en medische hulpmiddelen te verkennen.
Een specifieke uitdaging betreft het Europese juridische kader van statische marktgoedkeuring en veiligheidsbeoordeling van AI-systemen in de gezondheidszorg en mobiliteit: deze goedkeuring moet plaatsvinden voordat systemen op de markt worden gebracht. Dit moet de veiligheid van voertuigen en medische hulpmiddelen binnen de EU waarborgen. Deze goedkeuringprocedures zijn echter niet toegerust op voortdurend veranderende systemen. Omdat AI-systemen dankzij hun zelflerende capaciteiten tijdens het gebruik blijven leren, bestaat het oorspronkelijk goedgekeurde systeem niet langer in dezelfde vorm. Naarmate AI-systemen zich ontwikkelen, kunnen nieuwe risico’s ontstaan die een nieuwe veiligheidsbeoordeling van deze systemen vereisen.
Tijdens de rondetafeldiscussie, geïnitieerd door JTS themacoördinator Nynke Vellinga, werd duidelijk dat een veiligheidsbeoordeling voorafgaand aan markttoelating belangrijk is, maar niet voldoende om de veiligheid gedurende de gehele levensduur van een AI-systeem te waarborgen. Daarom zou de focus moeten verschuiven naar monitoring na marktintroductie. Het controleren van AI-systemen terwijl ze worden gebruikt, maakt het mogelijk om nieuwe risico’s te identificeren. Deze risico’s kunnen vervolgens direct worden aangepakt en beperkt.
De rondetafelbijeenkomst leverde nieuwe en waardevolle inzichten op over de manier waarop AI-systemen worden ingezet in de gezondheidszorg en mobiliteit. Daarnaast heeft de bijeenkomst geleid tot mogelijkheden voor vervolgonderzoek: een voortdurende controle op de ontwikkeling van AI-systemen na de marktintroductie, waarbij de risico’s worden aangepakt zodra ze ontstaan.