Organiseer AI zoals het recht

Wat kan kunstmatige intelligentie leren van een rechtbankproces? Veel, zegt hoogleraar AI Bart Verheij. Intelligentie draait volgens hem om het uitwisselen van argumenten, precies zoals in de rechtszaal gebeurt. ‘Mijn droom is dat experts van zoveel mogelijk andere domeinen meehelpen bij het ontwikkelen van AI.’

^{Tekst: Jelle Posthuma, RUG / Foto’s: Henk Veenstra} 

Laatst was Verheij op een verjaardagsfeestje, waar hij sprak met een advocaat. De advocaat vertelde dat hij arbeidsrechtvragen tegenwoordig eerst in het AI-model van Google invoert, waardoor hij naar eigen zeggen efficiënter en goedkoper voor zijn cliënten werkt. Natuurlijk controleerde hij de antwoorden nog wel, want de modellen maken fouten… ‘Maar word ik hier nou dom van?’ vroeg hij aan Verheij.

Een interessante vraag, oordeelde de hoogleraar AI. ‘Sommige vaardigheden zullen verdwijnen, net zoals we dankzij de rekenmachine niet meer zelf rekenen. Mensen maken zich door de opkomst van AI zorgen over hun baan. Er zal ook zeker nog veel veranderen, maar ik heb juist een hoge pet op van wat mensen toevoegen: de menselijke waarde.’

Wat AI (nog) niet goed kan

Kunstmatige intelligentie maakt ons volgens de hoogleraar niet direct dom, zolang we er kritisch mee omgaan. Maar hoe maken we AI intelligent? Die vraag staat centraal in het onderzoek van Verheij. Om tot intelligentie te komen, legt hij de nadruk op drie eisen: correcte antwoorden, een begrijpelijke onderbouwing en ethisch verantwoorde keuzes. Dat eerste lukt inmiddels behoorlijk goed. Maar het redeneren en het maken van ethische keuzes zijn nog moeilijk te behalen met de huidige AI-modellen, stelt hij.

In zijn onderzoek richt Verheij zich op de rol van argumentatie. Het uitwisselen van argumenten gebeurt in een discussiegesprek, waarbij het draait om redenen en verschillende perspectieven. De uitwisseling van argumenten leidt volgens de hoogleraar uiteindelijk tot goede antwoorden, onderbouwde redenen en (ethische) keuzes. ‘Het discussiemodel zie ik als intelligent gedrag, en het bestuderen daarvan is mijn onderzoeksgebied.’

Het recht als voorbeeld

In de jaren 80 studeerde Verheij wiskunde in Amsterdam. Daarna vertrok hij naar Maastricht, waar hij zich aan de rechtenfaculteit van de universiteit als promovendus specialiseerde in AI en de rol van discussiemodellen. ‘Het recht is volledig georganiseerd als een discussiemodel, als een debat. In het parlement, waar wetten worden bedacht en vastgelegd, is debat. Ook in de rechtszaal is er sprake van een debat tussen partijen met een rechter als onafhankelijke derde. Overal in het recht worden argumenten uitgewisseld en dat is precies wat ik bestudeer. Mijn uitgangspunt is dan ook: je moet AI op dezelfde manier organiseren als het recht.’

Hoewel de uitkomst in het recht belangrijk is, zeker voor de mensen in het beklaagdenbankje, is de weg ernaartoe, het juridische debat, minstens zo belangrijk. Volgens Verheij zou dat ook voor AI moeten gelden. Maar juist daar schiet het nu tekort. AI levert indrukwekkende resultaten, zoals gezichts- en beeldherkenning, maar zonder duidelijke uitleg. ‘De waaromvraag is een rotvraag voor AI. Dat heeft te maken met de onderliggende technologie van neurale netwerken.’

Jatwerk, of écht intelligent?

Tegenwoordig ligt het genuanceerder, zegt Verheij, door de recente ontwikkelingen op het gebied van taalmodellen. Bij deze taalmachines – de bekendste is ChatGPT – wordt soms wel degelijk een reden geformuleerd. ‘De vraag is alleen: klopt die reden? Vaak is dat niet zo, maar soms wel. Het gedrag van de huidige AI-modellen leidt daarom tot pittige discussies tussen voor- en tegenstanders.’

‘Als onderzoeker moet je gewoon zeggen: we snappen het niet, en we moeten hard aan de slag om het wél te begrijpen. Neem bijvoorbeeld logische puzzeltjes: heeft het taalmodel genoeg voorbeelden op internet gevonden en reproduceert het deze op een slimme manier, of gebeurt er meer? Met andere woorden: is het jatwerk, of komt het taalmodel zelf tot een oplossing? Dat is niet helder, en daar doen we onderzoek naar.’

Verheij benadrukt dat er tot op heden sprake is van een gebrekkige architectuur. ‘Het werkt, maar niet goed genoeg. Je kunt niet, zoals bij een rekenmachine, de garantie geven dat het altijd klopt. Zodra er een nieuwe versie van een taalmodel wordt uitgebracht, ontstaat er meteen een race om te laten zien wat er misgaat.’

Dat maakt modellen vaak nog ongeschikt voor kwetsbare toepassingen, vervolgt de hoogleraar. ‘Neem het recht. In het strafrecht gaat het over hoe een conflict moet worden opgelost, en de vraag of iemand het heeft gedaan. Dat zijn nogal vragen! Daar is de technologie nog niet betrouwbaar genoeg voor. Tegelijkertijd zijn er collega’s die zeggen: ook mensen maken fouten, wat is het verschil? Ook een interessante vraag, beetje filosofisch zelfs. Het leidt volgens mij uiteindelijk tot de vraag: wat is intelligentie, en hoe werkt het? Dat is precies wat ik wil begrijpen.’

Kritische blik

Terug naar het verjaardagsfeestje. Daar mengde een jonge scholier zich in het gesprek. ‘Ze vertelde dat zij en haar medescholieren de hele dag studeren met behulp van taalmodellen. Het klinkt alsof je er kritisch en verstandig mee omgaat, reageerde ik. Je blijft opletten en behoudt je eigenzinnigheid, en dat is precies de kern van het discussiemodel: je moet goed luisteren en je eigen autonomie bewaren. Juist de wisselwerking tussen mensen en AI is interessant, net zoals de wisselwerking tussen mensen onderling. Ook daar zie je altijd de meest verrassende dingen gebeuren.’

Verheij erkent tegelijkertijd de risico’s, zoals bij vrijwel elke nieuwe technologie. Hij verwijst naar sociale media: oorspronkelijk opgezet voor laagdrempelige communicatie, maar inmiddels ook een middel om verkiezingen mee te beïnvloeden. ‘Met moderne AI zien we ook al van alles fout gaan.’ De oplossing van dergelijke risico’s ligt volgens de hoogleraar niet alleen in de ontwikkeling van technologie. Hij wijst op het belang van onderzoek op een brede universiteit. ‘AI is zeker niet alleen een bèta-probleem. Integendeel.’

Volgens Verheij is dat ook zijn rol als Scholar bij de Jantina Tammes School van de RUG: het bevorderen van samenwerking tussen disciplines en faculteiten. ‘Ik ben gewend te werken op een rechtenfaculteit én bètafaculteit. Voor mij was het destijds als promovendus op de Rechtenfaculteit een echte leerschool als hardcore-wiskundige. Bij de rechtenfaculteit ging het opeens de hele dag over de samenleving en hoe we deze moesten inrichten. Dat heeft mij veel gebracht. Mijn droom is dat experts van andere domeinen meehelpen bij het ontwikkelen van AI. Ik geloof heel erg in die expertises. Dokters, juristen, filosofen: iedereen kan bijdragen aan de ontwikkeling van betere AI.’

Een interdisciplinaire blik is zelfs noodzakelijk, stelt de hoogleraar. ‘Ik ben dan ook heel blij met de komst van de Europese AI fabriek naar Groningen. Een prachtige kans om hier in het Noorden te laten zien dat de digitale transformatie waar we middenin zitten alleen kan slagen als we allemaal meedoen en niet aan de zijlijn blijven staan.’

Meer informatie

Bart Verheij