Raketten, robots en regels

Elektrotechnisch ingenieur Ming Cao wil begrijpen hoe vissen, mensen en computers precies functioneren. Dat leert hem hoe hij complexe systemen zoals groepen robots of stroomgebruikers goed kan laten werken. Cao is hoogleraar Netwerken en Robots en directeur van de Jantina Tammes school voor Digitale Maatschappij, Technologie en Kunstmatige Intelligentie. Zijn werk beperkt zich niet tot techniek: hij houdt zich ook bezig met ethische, juridische en maatschappelijke aspecten van kunstmatige intelligentie. Dat doet hij als hoofd van het ELSA Lab voor de Technische Industrie.

Als ingenieur leid je een ELSA lab, dat zich bezig houdt met ethische, juridische en maatschappelijke aspecten van kunstmatige intelligentie (AI). Waarom is dat belangrijk?

AI is niet alleen een technologisch onderwerp, het heeft gevolgen op allerlei verschillende gebieden. En AI heeft nogal wat controversiële kanten. Mogen studenten bijvoorbeeld gebruik maken van generatieve AI bij hun opdrachten? En er zijn vragen over privacy. Neem een fabriek met autonome robots, die met behulp van camera’s hun weg vinden. Daarmee zullen ze ook werknemers filmen en dat kan een schending zijn van de Europese AI wet, die hun privacy bewaakt.

En er zijn meer fundamentele vragen: kunnen we robots die aangestuurd worden door AI vertrouwen? Dat is belangrijk als we robots thuis of in ziekenhuizen willen gebruiken. Om die vraag te beantwoorden moeten we kunnen zien hoe de AI werkt.

Je werkt als ingenieur in het vakgebied Systeem en Regeltechniek. Wat betekent dat?

Dit vakgebied levert de modellen en de theorie voor allerlei technische toepassingen. Het zorgt voor wiskundige modellen die beschrijven hoe allerlei systemen werken: wat is de input, hoe beïnvloedt dat wat er uit het systeem komt, en welke terugkoppeling levert dit op voor de toestand van het systeem? Neem een airconditioning. Die meet de temperatuur en vergelijkt deze met de ingestelde waarde: als de temperatuur te hoog is, gaat de airco de ruimte koelen, wanneer het te koud is gaat hij juist opwarmen. Ik gebruik Systeem en Regeltechniek voor complexere toepassingen, zoals een groep robots die samenwerken en gezamenlijk beslissingen neemt.

Je werkt veel samen met andere disciplines, kun je daar voorbeelden van geven?

Het werken aan een brede universiteit als de RUG betekent dat er allerlei kansen zijn om samen te werken met andere vakgebieden, zoals sociale wetenschappen, psychologie, of economie en bedrijfskunde. Ik werk bijvoorbeeld met psychologen en sociologen samen om de interactie tussen mensen en robots beter te begrijpen.

In een ander project werkte ik samen met biologen om een zwemmende robotvis te bouwen, gebaseerd op echte vissen. Samen ontwikkelden we een algoritme dat beschrijft hoe vissen zwemmen. Dat is vervolgens gebruikt om de robotvissen aan te sturen. En binnen een ander project keken we hoe gedrag in een groep dieren onderling wordt afgestemd, en wat dat betekent voor het nemen van beslissingen.

Waarom zijn de geesteswetenschappen van belang voor de techniek?

Die zijn van vitaal belang om complexe systemen waar mensen deel van uitmaken te begrijpen. Als postdoc werkte ik al met psychologen, dat was onderdeel van mijn opleiding. Neem bijvoorbeeld gemengde teams van mensen en robots. Als je wilt begrijpen hoe zulke teams werken moet je menselijk gedrag begrijpen. Een ander voorbeeld zijn slimme stroomnetten. Om hoge piekbelasting van het net te voorkomen wil je het gedrag van stroomgebruikers beïnvloeden, bijvoorbeeld door prijsdifferentiatie. Om hiervoor effectieve interventies te ontwikkelen doen we eerst sociologische observaties, die we vervolgens omzetten naar een wiskundig model. Dan analyseren we hoe het systeem precies werkt en hoe we ons doel kunnen bereiken.

Er zijn mensen die vinden dat het gebruik van al die technologie een slecht idee is.

Tsja, we kunnen niet meer terug. En zelfs als dat zou kunnen lijkt het mij geen goed idee om nieuwe technologie helemaal af te wijzen. Maar we hebben regels nodig. De technologie heeft zich sneller ontwikkelt dan de juridische inbedding of de sociale aspecten ervan. Daarom wilde ik graag een ELSA lab leiden: ik ben er van overtuigd dat we alleen verder komen wanneer we alle ethische, juridische en maatschappelijke factoren meenemen. En als onderzoekers hebben wij onze eigen wetenschappelijke verantwoordelijkheid, de plicht om te voldoen aan ethische standaarden en regels.

Wat voor goeds brengt AI ons?

Allereest geloof ik dat de verwachtingen van AI wat al te hoog zijn. Kijk maar eens naar een ‘slimme robot’ die een trap op moet lopen. De technologie ontwikkelt zich, maar niet zo snel als mensen denken. Met dat in het achterhoofd denk ik dat er echte doorbraken zullen komen op het terrein van slimme fabrieken en ziekenhuizen. In dat geval moet de AI die gebruikt wordt het volledige ELSA pakket bevatten.

Ik ben daar voorzichtig optimistisch over. Wel moeten we deze AI ontwikkelen op basis van onze eigen technologie. Alleen zo kunnen we onze eigen waarden beschermen. Er zitten voordelen aan technologie zonder al te veel ethiek, maar wij hebben de plicht om ons te houden aan onze eigen ethische standaarden en regels. We hebben daarvoor een Europese AI wet, die beter is dan vergelijkbare wetgeving in de VS en China.

Tot slot, voel je je nog steeds een ingenieur, nu je met zoveel andere disciplines samenwerkt?

Jazeker, ik ben nog steeds een elektrotechnisch ingenieur. Dat is min basis, daarin ben ik geworteld. En wanneer je wortels hebt, kun je verder groeien.