Continual lifelong learning in neural systems
| Promotie: | Dhr. X. (Owen) He |
| Wanneer: | 04 mei 2023 |
| Aanvang: | 16:15 |
| Promotor: | H. (Herbert) Jaeger, Prof |
| Copromotor: | M. (Matthia) Sabatelli, PhD |
| Waar: | Academiegebouw RUG |
| Faculteit: | Science and Engineering |
Geheugenprobleem van intelligente agenten aangepakt
Intelligente agenten worden geacht diverse vaardigheden te leren. Wanneer ze echter worden getraind op een reeks verschillende taken, zorgt die bij de momenteel populairste op neurale netwerken gebaseerde AI-systemen vaak voor het catastrofale vergeetprobleem. Dit houdt in dat het aanleren van nieuwe kennis leidt tot het dramatisch vergeten van de oude kennis.
Owen He gebruikte wiskundige hulpmiddelen zoals conceptors, Bayesiaans leren en informatietheorie om dit probleem formeel te bestuderen. Hij stelde bovendien nieuwe theorieën en oplossingen voor om het te overwinnen, zodat bestaande kennis in AI-agenten niet alleen behouden blijft, maar ook kan worden gebruikt om het leren van nieuwe taken te versnellen.
De voorgestelde methoden omvatten manieren om bestaande kennis in neurale systemen te identificeren, te beschermen en te vernieuwen, en verder algoritmen om kennis over te dragen van het ene systeem naar het andere. He demonstreerde de doeltreffendheid van deze methoden in een groot aantal toepassingen zoals beeldherkenning, contradictoire spelletjes en neuromorfische engineering.
Owen He verrichtte zijn promotieonderzoek bij de afdeling Kunstmatige Intelligentie van het Bernoulli Instituut met financiering via EU project NeuRAM3, Jacobs University, RUG, Google DeepMind en Mila - Quebec AI Institute. Hij werkt nu als Research Scientist bij Google DeepMind.