Cooperation under uncertain incentive alignment

Samenwerken in onzekere tijden

Voor het oplossen van grote vraagstukken zoals klimaatverandering, nieuw beleid voor hernieuwbare energie en het beheer van stedelijk verkeer, is het onontbeerlijk dat mensen samenwerken. Traditionele modellen voor het bestuderen van samenwerking slagen er vaak niet in de complexiteit van interacties in de echte wereld vast te leggen.

Om dit probleem aan te pakken, introduceert Nicole Orzan in haar proefschrift de zogenaamde Extended Public Goods Game (EPGG), een raamwerk dat de studie van het ontstaan van samenwerking en optimaal beslissingsgedrag mogelijk maakt. Ze behandelt in dit raamwerk twee vaak over het hoofd geziene aspecten: verschillende niveaus van incentive-alignment en onzekerheid over deze alignment. Bovendien past Orzan gedecentraliseerd multi-agent reinforcement learning (MARL) toe om het gedrag van kunstmatige agents te bestuderen binnen het EPGG-raamwerk.

Verder onderzocht Orzan drie agentafhankelijke factoren die samenwerking beïnvloeden: emergente communicatie, gedragsmechanismen en risicovoorkeuren. Ze observeert dat communicatieprotocollen samenwerking kunnen bevorderen bij symmetrische informatie, maar misleiding mogelijk maken bij asymmetrische informatie. Gedragsmechanismen zoals reputatie en intrinsieke beloningen ondersteunen samenwerking onder onzekerheid, terwijl concurrentie behouden blijft waar nodig. Tenslotte hervormen risicovoorkeuren de spel-evenwichten: experimentele resultaten tonen aan dat risicogeneigde agenten eerder samenwerken, terwijl risico-averse agenten eerder defecteren, en deze neigingen worden versterkt onder onzekerheid.

Door incentive-dynamiek, onzekerheid en agent-specifiek gedrag te beschouwen, biedt dit werk een genuanceerder begrip van samenwerking en haar ontstaan in multi-agent systemen, wat bijdraagt aan de ontwikkeling van kunstmatige agenten die beter zijn uitgerust om zich in de echte wereld te bewegen.

Nicole Orzan voerde haar onderzoek uit bij het Bernoulli Institute for Mathematics, Computer Science and Artificial Intelligence, afdeling Kunstmatige Intelligentie.

Proefschrift: https://hdl.handle.net/11370/ecf14781-e7d7-438b-b9ec-a64cdee49cfe