De genAI bubbel zal barsten, maar geef AI niet op!

Generatieve AI zoals ChatGPT lijkt te overtuigen met mooie beelden en welluidende teksten. ‘Maar mensen blijven maar zeggen dat generatieve AI een universele tool is die veel meer kan,’ zegt Michael Biehl, hoogleraar Machine Learning. ‘Vroeg of laat zal de genAI-bubbel barsten,’ stelt hij. Maar dat betekent niet dat we alle AI maar met het badwater moeten weggooien.

FSE Science Newsroom | Tekst Charlotte Vlek

‘Het lijkt zo mooi wat generatieve AI (genAI) ons voorschotelt: applicaties zoals ChatGPT of Dall-E genereren welluidende teksten, prachtige plaatjes en indrukwekkende video’s,’ beschrijft Biehl. ‘Maar er is een aantal elementaire problemen, zoals feitelijke onjuistheden in tekst, onlogische plaatjes en fysiek onmogelijke video’s. Dit zijn inherente eigenschappen van het system. Niet fouten die er bij de volgende versie uit zullen zijn.’

Biehl maakt zich zorgen over de hype die momenteel gaande is rond genAI: ‘Men voorspelt een marktwaarde van miljarden voor AI-bedrijven, mensen maken zich zorgen over het verlies van banen, en soms zelfs over het einde van de mensheid.’ Er wordt geclaimd dat chatGPT de Turing test haalt (zie kader), dat genAI in staat is om teksten echt te begrijpen, problemen te analyseren en logisch te redeneren.

Ethische problemen

‘Vroeg of laat zal men inzien dat generatieve AI een illusie is die hen is voorgespiegeld door de grote tech-bedrijven,’ stelt Biehl. ‘Het is goed dat mensen zich nu in elk geval bewust beginnen te worden van de vele ethische problemen rond genAI.’ Het is een indrukwekkende lijst, waaronder de enorme verspilling van energie en grondstoffen, de uitbuiting van goedkope arbeid om fouten eruit te halen, het ongeautoriseerde gebruik van materialen met copyright, het verzamelen van gebruikersgegevens zonder toestemming, en de kritiekloos versterking van vooroordelen in de trainingsdata. En tenslotte is er een groeiend bewustzijn van mogelijkheden tot manipulatie door autoritaire regimes of grote tech-bedrijven die controle over deze systemen hebben.

Biehl: ‘Mensen lijken te denken dat de term Artificial Intelligence gelijk staat aan de huidige gehypete generatieve AI.’ Maar er is een uitgebreid vakgebied met een lange bestaansgeschiedenis, dat aan heel andere dingen werkt dan het produceren van welluidende woordenreeksen. Onderzoekers van de RUG werken bijvoorbeeld aan computerprogramma’s die artsen kunnen helpen om medische beelden te analyseren, zelfs wanneer er weinig trainingsdata beschikbaar is, of programma’s die dokters kunnen gebruiken om te sparren over een medische beslissing. De nadruk ligt vaak op de samenwerking tussen mens en machine, en op computersystemen die kunnen onderbouwen waarom het doet wat het doet. 

Wanneer de bubbel knapt

‘Uiteindelijk zullen mensen zich realiseren dat zelfs de grootste taalmodellen precies zijn wat er op het etiket staat: taalmodellen,’ legt Biehl uit. Ze stellen zinnen samen, imiteren of reproduceren en husselen schaamteloos stukken tekst uit hun trainingsdata. Wanneer de genAI bubbel knapt (en dat zal gebeuren) zal de media en de publieke opinie zich keren tegen alles met het label AI.’ Daarom roept hij collega’s uit zijn vakgebied op: val niet voor de hype, stook het niet verder op, en ga er niet op meeliften.’ Biehl suggereert zelfs om de term “AI” zoveel mogelijk te vermijden. ‘Het zal een averechts effect hebben.’