Mens, industrie en AI samengebracht in interdisciplinair onderzoek

Kunstmatige intelligentie (AI) wordt op steeds meer plekken gebruikt, ook binnen het bedrijfsleven. Maar hoe ontwikkel je algoritmes die technologisch sterk zijn, zonder daarbij menselijke waarden en praktische toepassingen uit het oog te verliezen? In deze aflevering van JTS Scholars vertelt Christos Emmanouilidis, universitair hoofddocent aan de Rijksuniversiteit Groningen, over de samenwerking tussen de universiteit, industrie en maatschappelijke partners in onderzoek naar mensgerichte AI.

Tekst: Eline Vermeulen (masterstudent Science Communication aan de RUG)

Emmanouilidis houdt zich al geruime tijd bezig met de maatschappelijke aspecten van kunstmatige intelligentie. ‘Wanneer je met AI-wetenschappers spreekt, gaat het gesprek al snel over technische details: hoe goed presteert het systeem, hoe accuraat is het, hoe robuust? Maar daarmee blijft een belangrijk aspect onderbelicht: de sociale impact van AI. Daarom richten wij ons ook op het welzijn van mensen.’

Voordelen voor de industrie

Als hoofdonderzoeker is Emmanouilidis betrokken bij diverse projecten op het gebied van Human-Centric AI. Daarbij staat het ontwerpen, ontwikkelen en evalueren van AI-oplossingen centraal, met bijzondere aandacht voor het welzijn van de mens. Tegelijkertijd is het essentieel dat de technologie betrouwbaar functioneert en praktische toepassingen biedt. De projecten van Emmanouilidis binnen dit domein zijn veelzijdig; variërend van het verbeteren van industriële productieprocessen tot het bevorderen van effectieve samenwerking tussen mens en AI.

In zijn onderzoek integreert Emmanouilidis sociale, operationele en technologische aspecten van kunstmatige intelligentie. De technologische kant richt zich op hoe AI-systemen functioneren. ‘De systemen moeten technisch robuust zijn, anders verliezen mensen het vertrouwen erin. Maar zelfs als de technologie goed werkt, zullen bedrijven er niet in investeren als het geen voordelen oplevert’, legt hij uit. Daarom is ook de operationele kant cruciaal: AI moet tastbare resultaten opleveren, zoals een hogere productiviteit binnen de industrie.

Onrechtvaardige uitkomsten

Ook sociale aspecten, zoals inclusiviteit, zijn volgens Emmanouilidis van groot belang. In zijn werk kijkt hij niet alleen naar de impact van AI op individuen en bedrijven, maar ook naar de bredere gevolgen voor de samenleving als geheel. ‘Data kan algemene kennis negeren, aan normen en waarden voorbijgaan, en vooroordelen introduceren of versterken’, waarschuwt hij.

Emmanouilidis noemt als voorbeeld het COMPAS-algoritme dat werd ingezet binnen het Amerikaanse rechtssysteem. Dit algoritme kende een risicoscore toe aan veroordeelden om te voorspellen hoe groot de kans was dat zij opnieuw strafbare feiten zouden plegen. Het systeem was bedoeld om efficiëntie te verhogen, maar resulteerde in discriminatie. ‘In gelijke gevallen werden zwarte Amerikanen minder vaak vrijgelaten dan witte Amerikanen’, vertelt hij. ‘Het algoritme versterkte de vooroordelen die al in de data aanwezig waren. Die data weerspiegelen eigenlijk de vooroordelen die in onszelf bestaan. Als je vervolgens uitsluitend op die data vertrouwt en de menselijke context uit het oog verliest, leidt dat uiteindelijk tot onrechtvaardige uitkomsten.’

Brede samenwerking

Het is duidelijk dat de onderwerpen zich niet beperken tot de faculteit van Emmanouilidis, oftewel de faculteit Economie en Bedrijfskunde. ‘Onze projecten hebben één ding gemeen: ze hebben overkoepelende toepassingen voor verschillende disciplines. Ik zag een noodzaak om verschillende faculteiten en disciplines samen te brengen. Vandaar dat ik initiatief nam om mogelijkheden te verkennen binnen de Jantina Tammes School of Digital Society, Technology & AI (JTS).’

Emmanouilidis is een JTS Scholar en helpt als zodanig bij het opzetten van een nieuw project: een interdisciplinair ELSA Lab voor de Technische Industrie (ELSA4TI). Het project brengt ethische, juridische en sociale aspecten van AI samen. ‘De universiteit heeft al een ELSA Lab voor de gezondheidszorg’, vertelt hij enthousiast. ‘We hadden nog niet zoiets voor de technische industrie. Het voelde als een logische stap om voorgaand onderzoek over Human-Centric AI verder interdisciplinair aan te pakken binnen onze universiteit, en meer precies binnen de JTS.’

Volgens Emmanouilidis draait de JTS om multidisciplinair werken en verschillende faculteiten samenbrengen. ‘Dit is exact wat we doen in de ELSA4TI.’ Het project brengt verschillende grote industriële partners en de faculteiten Science & Engineering, Rechten, Economie en Bedrijfskunde, en het UMCG samen. Ming Cao, wetenschappelijk directeur van de JTS, leidt het project. ‘We hebben dus vier faculteiten die samenwerken binnen dit project, wat geweldig is!’  

De hierboven genoemde samenwerking met de industrie sluit aan bij een andere pijler van de JTS: samenwerking met maatschappelijke stakeholders. ‘Dat betekent dat je ook organisaties betrekt die een concrete vraag hebben naar een bepaalde technologie, zoals Philips.’

Volgens Emmanouilidis hebben we niet alleen een multidisciplinaire visie nodig, maar ook een multistakeholdervisie. Daarmee wijst hij op het belang van andere betrokken partijen. ‘In het zogenoemde SkillAIbility-project werken we bijvoorbeeld samen met de European Union of the Deaf, met wie we een inclusieve werkplek ontwerpen met behulp van AI.’

Het is duidelijk dat er binnen de wereld van AI nog veel te ontdekken valt. Emmanouilidis heeft een langetermijnvisie: ‘We moeten de grenzen van AI kennen en beter sturen richting uitkomsten die waardevol zijn voor individuen, organisaties en de maatschappij. Om dit te bereiken, moeten we AI gaan zien als een teamgenoot bij dagelijkse taken en investeren in passend onderzoek.’