Hoe iemand met kwade bedoeling AI kan gebruiken

‘Soms vraag ik me af wat voor wereld we aan onze kinderen nalaten,’ vertelt Fatih Turkmen, RUG-onderzoeker privacy en beveiliging van en met artificial intelligence (AI). De huidige AI-ontwikkelingen gaan snel, zó snel dat verschillende landen oproepen tot betere regulering en mogelijk een internationaal orgaan dat de boel overziet. Turkmen doet onder andere onderzoek naar hoe we chatbots privacy-vriendelijker kunnen maken en beter beveiligd tegen aanvallen, en hoe we AI veilig zouden kunnen inzetten voor het beheren van belangrijke infrastructuur.

FSE Science Newsroom | Charlotte Vlek

Wat betreft AI kunnen we ons over allerlei dingen zorgen maken. Het enorme energie- en waterverbruik, de ingebakken vooroordelen van AI, de AI-bubbel... waarom zouden we ons zorgen moeten maken over privacy?   

‘Grote taalmodellen zoals ChatGPT of Claude zijn eigenlijk net een spons. Ze nemen alles in zich op. Maar als je ze uitknijpt, komt dat er allemaal weer uit. Iemand met kwade bedoelingen kan bijvoorbeeld met handige prompts allerlei gevoelige informatie uit zo’n model lospeuteren. Je kunt het vergelijken met de autocomplete op je laptop of telefoon, die zomaar ineens je creditcardnummer kan aanvullen in een zin. Maar dan zo dat het voor het hele internet beschikbaar is.’

Maar AI heeft wel informatie nodig om op te trainen. Kan dat ook eigenlijk wel privacy-vriendelijk? 

‘In ons onderzoek werken we aan methodes die ervoor moeten zorgen dat gevoelige informatie niet zomaar uit een AI gehaald kan worden, maar ook over het versleutelen van de informatie die erin gaat. En er zijn ook technieken die ervoor kunnen zorgen dat de gevoelige trainingsdata van een AI niet zomaar weer uitgespuugd kan worden in een chatgesprek. Wij werken in ons onderzoek onder andere aan verschillende zogenaamde privacy versterkende technieken (Privacy Enhancing Techniques).’

Je hebt nu een onderzoeksproject dat gaat over privacy en beveiliging van chatbots. Hoe gaat jullie onderzoek in z’n werk? 

‘We voeren experimenten uit, en doen zelf ook aanvallen om te proberen informatie los te peuteren uit zo’n bot, of zijn gedrag te beïnvloeden. Dat klinkt misschien raar, maar als wij het niet doen, doet iemand anders het met kwade bedoelingen. Ons doel is om die voor te zijn, eventuele zwakke plekken te signaleren en die te repareren voor ze worden uitgebuit.’

‘Een voorbeeld is memoriseren. AI-modellen worden getraind op enorme hoeveelheden data, waaronder mogelijk privacygevoelige of persoonlijke informatie. Je zou misschien verwachten dat zo’n model algemene patronen leert uit deze data, in plaats van de individuele gevallen. Maar de realiteit is dat AI-modellen soms heel specifieke dingen uit de data onthouden. Dat kan er mogelijk voor zorgen dat informatie onbedoeld naar buiten komt. Wij onderzoeken wanneer en onder welke omstandigheden zulke gememoriseerde informatie uit een model kan worden onttrokken, en hoe we de gememoriseerde informatie kunnen kwantificeren.’

Je onderzoek gaat niet alleen over privacygevoeligheid en veiligheid van AI, maar ook over hoe we AI veilig kunnen inzetten, toch?

‘Klopt. Want er zijn best manieren om AI te gebruiken met behoud van privacy. Bijvoorbeeld door informatie te bewaren op de plek waar het gegenereerd is, en AI-bewerkingen uit te voeren op verschillende servers. Dat zorgt ervoor dat de informatie niet vanaf een centrale plek te ‘stelen’ is. En daarnaast proberen we bedrijven te helpen die graag mee willen gaan met de huidige ontwikkelingen in AI, door ze te laten zien hoe ze dat op een veilige manier kunnen doen.’

Wat voor bedrijven bijvoorbeeld?

‘Denk aan infrastructuur zoals elektriciteit, water, telefonie... daar zijn allemaal netwerken die beheerd worden door een bedrijf, terwijl het vaak een ander bedrijf is dat levert aan de consument. Die bedrijven moeten informatie met elkaar uit wisselen voor hun processen, en communiceren soms over cyberdreigingen. Hoe doen ze dat veilig, met behoud van privacy? En het zal voor sommige bedrijven ook aantrekkelijk zijn om AI te gebruiken voor het opsporen van storingen in het netwerk. Een elektriciteitscentrale kan bijvoorbeeld sensoren installeren die detecteren wanneer er sprake is van een brand, of een of andere fysiek probleem.’

‘Maar wanneer zo’n sensor aangeeft dat er iets mis is, moet je wel kunnen achterhalen of er daadwerkelijk sprake is van een fysiek probleem, of dat het misschien een cyberaanval is. Dat klinkt misschien paranoïde, maar het is nu eenmaal de realiteit. Je wilt niet een blackout in heel Nederland alleen maar omdat er een sensor op hol geslagen is. Daarom is het belangrijk dat je AI-systeem goed beveiligd is, en moet er altijd menselijk toezicht zijn. Wij willen bedrijven daarbij helpen, door zelf een AI-systeem te ontwikkelen dat specifiek is voor hun vraag, en lokaal. Want als ze software gaan gebruiken van OpenAI of Anthropic, geven ze de veiligheid van onze infrastructuur feitelijk uit handen.’

Maak je je zorgen?

‘Ik maak me vooral zorgen over het feit dat een paar grote bedrijven nu alle touwtjes in handen hebben. Die macht zou niet bij een bedrijf moeten liggen, maar bij een land. Of liever nog een onafhankelijke instantie. Het ligt voor de hand om dingen te decentraliseren: er zijn bijvoorbeeld manieren om AI te trainen in verschillende lagen of gezamenlijk voorspellingen te doen, waarbij elke partij zijn eigen laag van het grotere geheel beheert. Zo zorg je dat niet één partij alle macht heeft.’

Lees meer: