Essay: Hoe angst de raadgever werd van overheden

Vrees voor reputatieschade, media-aandacht, juridische procedures, Woo-verzoeken, of simpelweg voor het onbekende, leidt tot terughoudendheid bij overheden. Ondanks het feit dat overheden doorgaans zo goed mogelijk de geldende wet- en regelgeving volgen, blijft toch het gevoel bestaan dat hun handelen discussie zal opleveren. Dit kan problematische gevolgen hebben: een angstcultuur belemmert verantwoordelijke praktijken. Aan de hand van onze ervaringen laten wij zien hoe deze angst zich manifesteert, welke gevolgen zij heeft en wat er nodig is om ruimte te creëren voor een cultuur die juist gericht is op kennisdeling.

Onder een vergrootglas

Overheden worden in een snel tempo geconfronteerd met nieuwe databronnen en een steeds breder aanbod aan (AI-)technologieën. Deze innovaties worden in toenemende mate ingezet ter ondersteuning in werkprocessen voor het uitvoeren van hun wettelijke taken. Overheden proberen zich daar zo goed mogelijk tot te verhouden, maar dat is niet altijd eenvoudig. We kennen inmiddels de grote schandalen die aan het licht zijn gekomen, zoals de toeslagenaffaire of de fraudeaanpak van DUO. We merken op dat overheden onder een vergrootglas liggen wanneer het gaat om hun datapraktijken. En natuurlijk is een kritische houding niet onterecht. Toch zien wij dat deze aandacht ook een keerzijde heeft: angst is een factor geworden in het handelen van veel overheden en dat heeft grote gevolgen.

Een illustratief voorbeeld waarin een deze angstcultuur waarneembaar is, betreft kennisuitwisseling over AI-governance. Specifiek valt te denken aan de inzet van het Impact Assessment Mensenrechten en Algoritmes (IAMA). Dit impact assessment brengt mogelijke inbreuk op grondrechten van algoritmes in kaart en helpt organisaties om deze risico’s in beeld te krijgen en te mitigeren. Al meer dan dertig overheidsorganisaties gebruiken het IAMA om de impact te toetsen van hoogrisico algoritmes die zij in willen zetten: dit kan gezien worden als een best practice.

Deze ontwikkeling zou kunnen worden versterkt door kennis over het IAMA in relatie tot specifieke toepassingen uit te wisselen tussen overheidsorganisaties onderling: veel algoritmische toepassingen worden namelijk op dezelfde manier ingezet door verschillende overheidsorganisaties. Denk aan de inzet van scanauto’s voor parkeerbeheer of het gebruik van anonimiseringssoftware om de beantwoording van Woo-verzoeken te versnellen. Op dit moment doen organisaties allemaal los van elkaar een IAMA voor deze toepassingen, terwijl er inhoudelijk weinig tot geen verschillen zijn met andere overheidsorganisaties. Het delen van documentatie rond het IAMA voor dit soort toepassingen zou werkdruk verminderen en bijdragen aan het verhogen van de kwaliteit en kennisopbouw.

Hier is ook behoefte aan vanuit de overheid: uit een IAMA-pilot uit 2024 kwam dit naar voren als belangrijke aanbeveling vanuit de 15 pilotpartners. Inspanningen om een dergelijke kennisuitwisseling op te zetten lopen echter tot op heden op de klippen: een inventarisatie vanuit de VNG liep op niets uit omdat overheidsorganisaties bang waren om IAMA-documenten met elkaar te delen uit vrees voor beschuldigingen dat zij iets fout zouden hebben gedaan. Oproepen in onderzoekstrajecten om IAMA-documenten met onderzoekers te delen met als doelstelling analyse en het doen van aanbevelingen voor effectief IAMA-gebruik, leverden onvoldoende gehoor op om deze onderzoeken voort te zetten.

Op basis van onze ervaringen als onderzoekers met verschillende casuïstiek bij overheden, zoals die hierboven, formuleren wij drie samenhangende observaties die enerzijds licht werpen op factoren die angst binnen overheden bevorderen en anderzijds perspectief bieden op mogelijke stappen voorwaarts.

Kritische media-aandacht

Ten eerste observeren wij een aanzienlijke mate van kritische media-aandacht over datagedreven werken binnen overheden. Hoewel dergelijke aandacht op zichzelf niet problematisch is, ontbreekt het in bepaalde gevallen aan voldoende technische expertise en datageletterdheid om complexe casuïstiek zorgvuldig te analyseren en deze op een begrijpelijke wijze aan het publiek te communiceren. Dit kan ervoor zorgen dat er meer vanuit een onderbuikgevoel wordt beredeneerd dan daadwerkelijke feiten. Ter illustratie, discussies over mogelijke privacyschendingen zijn in Nederland sterk aanwezig. Tegelijkertijd bestaan er hardnekkige misverstanden over onder meer de toepasselijke wetgeving (zoals de AVG), en bijvoorbeeld de reikwijdte van het begrip persoonsgegevens. Neem bijvoorbeeld het datatype ‘locatiedata’ (informatie die gekoppeld is aan een geografische locatie). In veel gevallen roept het gebruik van locatiedata een gevoel van ongemak op en leidt dit tot vragen over wettelijke toelaatbaarheid voor overheden. Het antwoord op die vraag is echter niet eenduidig. Locatiedata vormen geen homogene categorie; de juridische toelaatbaarheid hangt af van uiteenlopende factoren, zoals de herkomst van de data (bijvoorbeeld telecom-, GPS- of andere sensordata), de wijze van verwerking en het niveau van anonimisering, pseudonimisering of aggregatie. Wanneer deze nuance ontbreekt, kan al snel een verkeerd narratief ontstaan. Dit is jammer, want er zijn wél veel legitieme kritische vragen te stellen over dit soort data, zoals function creeps, consumentenrechten, of group consent, maar die verdwijnen uit beeld vanwege het dominante narratief dat overheden ‘mensen kunnen volgen’. Ondanks deze observatie benadrukken wij dat ook journalisten geen homogene groep vormen. Er zijn ook talrijke gespecialiseerde techjournalisten die gedegen werk verrichten en datapraktijken kritisch belichten die terecht maatschappelijke aandacht verdienen.

Publieke onrust

Ten tweede observeren wij een direct gevolg van dergelijke foutieve of ongenuanceerde narratieven. Dit trekt namelijk de aandacht van de politiek en/of toezichthouders en kan hen ertoe bewegen om onderzoeken te starten, kamervragen te stellen, of hen het gevoel geven daartoe verplicht te zijn. Deze dynamiek is op zichzelf niet problematisch, sterker nog; het behoort tot hun wettelijk taak. Problematisch wordt het wanneer deze aandacht verschuift naar casussen die feitelijk niet problematisch zijn. De publieke onrust is dan al vaak ontstaan. Overheden herkennen dit patroon; zelfs wanneer zij volledig compliant werken, kan belangstelling dezelfde gevolgen hebben als wanneer dat níet zo is. Het is daarom ook van groot belang dat de politiek en toezichthouders de casuïstiek verder onderzoeken of bevragen waar dit daadwerkelijk nodig is. Het vergt expertise en lef om 'het kaf van het koren te scheiden', om zo de aandacht te vestigen op daadwerkelijke problematische gevallen. Dat betekent soms ook minder 'rigide' beoordelen of procederen, maar samen met overheden te kijken: wat is wel mogelijk? In plaats van beoordelen op basis van de categorieën: compliant of non-compliant, wat over het algemeen genomen ervaren wordt als: goed of fout.

Vermijdende strategie

Ten derde observeren wij dat hiervoor genoemde dynamieken ertoe kunnen leiden dat projecten niet van de grond komen, achter gesloten deuren blijven, of alleen plaatsvinden zonder externe partners. Onderzoekers worden niet langer toegelaten en samenwerkingen tussen overheden worden vermeden. Deze vermijdende strategie belemmert transparantie, vermindert de kans om van fouten te leren, en vergroot de kans op toekomstige non-compliance doordat kennisuitwisseling - zowel over good als bad practices - stokt. Zonder openheid en uitwisseling blijven overheden het wiel opnieuw uitvinden, terwijl waardevolle inzichten elders al beschikbaar zijn. Bovendien ervaren onderzoekers grote moeite om toegang te krijgen tot sommige datapraktijken, waardoor hun potentieel om te analyseren en waarde toe te voegen beperkt blijft.

Samengenomen laten onze observaties zien hoe angst zich in de praktijk manifesteert en welke gevolgen dit heeft voor zowel overheden als voor ons als onderzoekers. Desalniettemin is het belangrijk te benadrukken dat onze beschrijvingen en ervaringen niet uitputtend zijn. Graag schetsen we een toekomstbeeld waar ruimte is voor verantwoorde praktijken en waar kennisdeling voorop komt te staan.

Bevorder legitimiteit datapraktijken

Om dit te bewerkstellingen zijn er een aantal actiepunten nodig. Ten eerste blijkt uit onderzoek dat de legitimiteit van datapraktijken wordt bevorderd door transparante, gezamenlijke en gelijkwaardige processen. Dit betekent dat bij het ontwikkelen van nieuwe plannen of het aangaan van samenwerkingen, relevante stakeholders vanaf het begin betrokken zouden moeten worden. Zoals toezichthouders en juristen om te kunnen beoordelen of iets compliant is. Maar compliance alleen is niet voldoende: ook ethische afwegingen zijn essentieel, en daarbij kunnen onder meer NGO’s, burgerpanels en onderzoekers een belangrijke bijdrage leveren.

Daarnaast is het cruciaal dat deze stakeholders een gelijkwaardige positie hebben in het proces: er wordt actief naar elkaar geluisterd en iedere partij krijgt de ruimte om input te leveren. Ten slotte moet de transparantie van deze processen worden bevorderd, want dit vormt de basis voor het volgende punt: leren van elkaar is essentieel. En dat geldt niet alleen voor good practices, maar juist ook voor bad practices. Mogelijke 'fouten' worden binnen overheden vaak hard afgestraft; maar waarom eigenlijk? Natuurlijk zijn fouten niet wenselijk, maar ze vormen wél belangrijke leermomenten.

Transparantie zou daarom niet moeten worden bestraft of ontmoedigd uit angst voor repercussies; zij zou juist moeten worden aangemoedigd. Denk bijvoorbeeld aan good practices zoals DUO die na de ophef rond het uitwonende beurs-algoritme stichting Algorithm Audit vroeg om een uitgebreide analyse te doen, en vervolgens in samenwerking met deze stichting webinars organiseerde om uit te leggen waar ze fout zaten en hoe ze voornemens zijn om dat op te lossen. Ook de VNG en andere gremia kunnen hierin een waardevolle rol spelen door zulke voorbeelden te verzamelen, te delen en te faciliteren. Al met al, zullen deze actiepunten bijdragen aan een cultuur waarin kennisdeling serieus wordt genomen, wat uiteindelijk de opbouw van kennis en de kwaliteit van AI- en datagovernance zal versterken.

Wij zijn benieuwd of je dit verhaal herkent, wellicht heb je aanvullingen of wil je je verhaal delen. Maar nog belangrijker: wat is er nodig om kennisdeling voorop te plaatsen?

Sofie de Wilde de Ligny is promovendus aan de Universiteit Utrecht. Ze doet onderzoek naar business-to-government data sharing en heeft een specifieke interesse in locatiedata.

Iris Muis is teamleider van Data School, Universiteit Utrecht en faciliteert onderzoek en onderwijs rond verantwoorde AI en datapraktijken binnen het openbaar bestuur. Ze is co-auteur van het IAMA (Impact Assessment Mensenrechten en Algoritmes), DEDA (De Ethische Data Assistent), CODIO (Code Goed Digitaal Openbaar Bestuur) en het Functioneringsgesprek voor AI.