Wat is echt en wat is nep, en maakt het eigenlijk wat uit?

Deepfakes vormen een steeds grotere bedreiging. Vooral vrouwen in publieke functies zijn kwetsbaar. Deze boodschap stond centraal tijdens het evenement ‘The Stereotypes and Mechanisms behind Deepfakes’ in House of Connections, dat begin deze week plaatsvond.

Gastspreker Eva Hofman, journalist bij de Groene Amsterdammer onderstreepte het gevaar van deepfakes en generatieve AI. Als onderzoeksjournalist en technologieverslaggever is ze geïnteresseerd in hoe de internetwereld de fysieke wereld beïnvloedt. In het bijzonder gaat haar aandacht uit naar de opkomst van het online conservatisme. In haar onderzoek werkt ze vaak nauw samen met onderzoekers van de Data School van de Universiteit Utrecht.

Kamerleden maken nepplaatjes

Tijdens de bijeenkomst vertelde Hofman over haar onthullende publicatie over AI-beelden op radicaal-rechtse Facebookpagina's. De gegenereerde beelden tonen veelal jonge, blonde vrouwen, bedreigd door groepen migranten, met wervende teksten over de PVV. Ook toonde ze AI-plaatjes van het ‘ideale’ Nederlandse gezin, eveneens bedreigd door migratie, en een nepbeeld waarop te zien is hoe toenmalig partijleider van GroenLinks-PvdA Frans Timmermans wordt gearresteerd.

Hofman wist met haar collega-onderzoekers te achterhalen dat ten minste twee PVV-Kamerleden nepplaatjes hadden gegenereerd en deze vervolgens op de PVV-fanpagina’s publiceerden. Dankzij journalistiek speurwerk kwam ze erachter welk account PVV-Kamerlid Maikel Boon gebruikte op Sora, de beeldgenerator van OpenAI. Elke prompt (opdracht) die gebruikers invoeren om op Sora wordt opgeslagen en blijft openbaar toegankelijk, tenzij de gebruiker anders aangeeft. Zo werden de 174 opdrachten van Boon inzichtelijk voor de journalisten.

Met zijn account gaf Boon een reeks opdrachten om plaatjes te genereren, zoals: maak een hyperrealistische foto van een knappe blonde vrouw. En vervolgens: achter haar aan loopt een groepje licht getinte jongeren. Ze roepen haar naam maar ze reageert niet… De gegenereerde beelden plaatste Boon vervolgens op de populaire Facebookpagina’s met vele duizenden volgers. Facebookgebruikers reageerden volgens Hofman onder de gepubliceerde plaatjes alsof ze echt waren. Hofman vroeg het Kamerlid om een reactie, maar die bleef tot dusver uit. Boon is nog altijd Kamerlid voor de PVV.  

Naast het onderzoek naar de nepplaatjes verwees Hofman ook naar ander onderzoeksjournalistiek werk, zoals haar publicatie over het gemak waarmee extreme video's over eetstoornissen op TikTok toegankelijk zijn en de toenemende haatreacties op verschillende online platforms jegens de lhbtqia+-gemeenschap. Ook Rob Jetten werd genoemd. Met name sinds hij premier is geworden, krijgt Jetten een grote hoeveelheid homofobe reacties op zijn (persoonlijke) socialemedia-accounts. Ook hierbij gaat het steeds vaker om door AI gegenereerde inhoud.

Bewijzen wat echt is

Het verhaal van Hofman over AI-gegenereerde beelden was ontnuchterend: generatieve AI wordt destructief ingezet en de consequenties voor de makers zijn minimaal. Na de presentatie van Hofman was het aan RUG-onderzoekers George Azzopardi en Guru Swaroop Bennabhaktula om perspectief te bieden: hoe kunnen we deepfakes beter detecteren? Volgens Azzopardi is het tot op heden een kat-en-muis-spel, waarbij regulerende instanties veelal te laat reageren. Hij gaf als voorbeeld het gevaar van gemanipuleerde pasfoto’s, waarmee criminelen een neppaspoort kunnen bemachtigen om de grens over te reizen. De onderzoeker werd door de RDW benaderd om mee te denken over oplossingen.

In hun onderzoeksproject ontwikkelden ze een algoritme dat een camera kan linken aan een foto. Iedere foto bevat als het ware een unieke vingerafdruk van een fotocamera. Als iedere foto aan een camera kan worden gelinkt, is het mogelijk om gemanipuleerde beelden te filteren: zij bevatten niet langer het kenmerk van de originele camera. Azzopardi en Bennabhaktula hebben inmiddels de startup ForensifAI opgericht, waarmee ze de technologie breed willen toepassen. Als voorbeeld gaven de onderzoekers het gebruik in identificatie, het verzekeringswezen, online handelsplatformen en de journalistiek.

De zaal reageerde enthousiast op de veelbelovende technologie, zeker voor de toepassing met duidelijke kaders zoals identificatie. Tegelijkertijd kan technologie niet alles oplossen, bleek uit reacties van verschillende aanwezigen. De deepfakes zijn bovenal een maatschappelijk probleem, dat vraagt om regulerende maatregelen vanuit de overheid en om meer digitale geletterdheid.

Trieste realiteit

Hofman benadrukte de complexiteit van de kwestie. De door de PVV-Kamerleden gebruikte deepfakes zijn helemaal niet bijzonder hightech: ze zijn zelfs overduidelijk nep, maar dat lijkt de ontvangers weinig te schelen. Veel gebruikers weten bijvoorbeeld wel dat de plaatjes nep zijn, maar de afbeeldingen onderschrijven en versterken wel hun gevoelens over bijvoorbeeld migratie. Factchecken of het stempel ‘nep’ heeft in zo’n geval weinig zin, stelde de journalist. ‘Dat is de trieste realiteit’, concludeerde de journalist.

Het blijft daarom een belangrijke vraag wat we tegen de oprukkende nepplaatjes kunnen doen. Want het gemak waarmee iedereen nepbeelden kan genereren en verspreiden lijkt vooralsnog het probleem. Genoeg ingrediënten kortom voor de volgende bijeenkomst van het Young Arts Network (YARN) met als titel ‘Targeting public voices: how scholars can protect themselves in times of generative AI’, dat medio september 2026 zal plaatsvinden.

De bijeenkomst in mei werd georganiseerd door het Young Arts Network (YARN) en de Jantina Tammes School of Digital Society, Technology, and Artificial Intelligence.