Transparency and secrecy as a spectrum in AI-assisted trustworthy public decision-making
| Promotie: | I. (Ida) Varosanec, Dr |
| Wanneer: | 19 december 2024 |
| Aanvang: | 11:00 |
| Promotors: | G.P. (Jeanne) Mifsud Bonnici, Prof, prof. dr. S.H. Ranchordás |
| Copromotor: | dr. N.E. (Nynke) Vellinga |
| Waar: | Academiegebouw RUG |
| Faculteit: | Rechtsgeleerdheid |
Transparantie en geheimhouding als spectrum in betrouwbare AI-ondersteunde publieke besluitvorming
Ida Varosanec onderzocht de complexiteit van het balanceren tussen transparantie en geheimhouding bij het gebruik van kunstmatige intelligentie (AI)-systemen binnen de publieke sector, vooral wanneer deze technologieën individuele rechten en vrijheden beïnvloeden. AI kan overheidsdiensten efficiënter maken, maar wanneer beslissingen worden genomen door of met behulp van algoritmen, hebben burgers en toezichthoudende instanties vaak moeite om de achterliggende redenering te begrijpen, vanwege geheimhouding in verband met intellectueel eigendom (IE) en vertrouwelijkheid.
Hoewel transparantie onmisbaar is voor vertrouwen, vereist vertrouwen een dosis geheimhouding. In dit onderzoek wordt nagegaan hoe de huidige EU-wetgeving die van toepassing is op AI transparantie - nodig voor verantwoording en publiek vertrouwen - probeert te verenigen met de vertrouwelijkheid die bedrijfsgeheime AI-technologieën beschermt. Er wordt een spectrum van transparantie en geheimhouding geïntroduceerd, waarbij transparantie het vertrouwen bevordert, maar niet altijd absoluut kan zijn vanwege privacy, veiligheid en zakelijke belangen. Het onderzoek toont aan dat wetten zoals de EU AI-Verordening weliswaar streven naar 'voldoende transparantie', maar dat ze niet volstaan om deze belangen volledig in balans te brengen, waardoor overheidsinstanties beperkt houvast hebben ten aanzien van wat openbaar moet worden gemaakt.
Door een analyse van wettelijke kaders betoogt Varosanec dat transparantie in AI kan worden verbeterd met technische hulpmiddelen (bijv. explainability methoden), op maat gemaakte wetten en ethische normen. Een dergelijke aanpak zou overheden kunnen helpen om AI op verantwoorde wijze te gebruiken, het vertrouwen van het publiek te behouden en tegelijkertijd de bedrijfsgeheime informatie te respecteren. De bevindingen suggereren dat een holistische benadering die transparantie en geheimhouding combineert ethische, transparante en betrouwbare AI in de publieke sector kan ondersteunen.