Staatscommissie wil stop op dataprofilering

De overheid moet stoppen met datagedreven profilering bij de opsporing van fraude en criminaliteit. Dat stelt de Staatscommissie tegen Discriminatie en Racisme in een nieuwe voortgangsrapportage. Volgens de commissie botsen de gebruikte systemen fundamenteel met principes van de rechtsstaat en veroorzaken ze discriminatie, maatschappelijke schade en verlies van vertrouwen in de overheid.

Risico’s structureel onderschat

Datagedreven profilering wordt door overheden ingezet om burgers op basis van data, gedrag en kenmerken te selecteren voor extra controles. Zulke systemen worden onder meer gebruikt binnen de sociale zekerheid, handhaving en fraudebestrijding. Volgens de commissie zijn de risico’s daarvan structureel onderschat. Historische data bevatten vaak al bestaande vooroordelen en ongelijkheden, waardoor algoritmes discriminatie kunnen versterken.

Voorzitter Joyce Sylvester noemt profilering daarom geen technische, maar een normatieve keuze. ‘Het gaat om een fundamentele beslissing over hoe de overheid haar burgers benadert’, schrijft de commissie.

Toeslagenaffaire

De staatscommissie verwijst nadrukkelijk naar eerdere affaires waarbij burgers door risicoselectie onterecht werden getroffen. In de toeslagenaffaire speelde het gebruik van dubbele nationaliteit een rol bij intensieve fraudecontroles. Ook controles van DUO op de uitwonendenbeurs bleken discriminerende effecten te hebben voor studenten met een migratieachtergrond.

Volgens het rapport ontbreekt vaak overtuigend bewijs dat profilering daadwerkelijk effectiever is dan alternatieven. Toch groeit het gebruik van algoritmes en risicomodellen snel binnen verschillende overheidsorganisaties. De commissie constateert bovendien dat burgers meestal niet weten dat zij worden geprofileerd, welke criteria worden gebruikt of hoe risicoscores tot stand komen. Het algoritmeregister van de overheid biedt volgens de commissie onvoldoende inzicht en is nog altijd onvolledig.

Uitdijend en moeilijk te begrenzen

De commissie spreekt van een ‘uitdijend en moeilijk te begrenzen fenomeen’ dat zich verspreidt over meerdere beleidsterreinen en organisaties tegelijk. Daardoor kunnen burgers herhaaldelijk in risicoprofielen terechtkomen, wat leidt tot zogenoemde cumulatieve discriminatie. Vooral mensen in kwetsbare sociaaleconomische posities lopen volgens de onderzoekers een verhoogd risico om steeds opnieuw onder extra toezicht te komen staan.

De staatscommissie concludeert dat profilering op gespannen voet staat met drie kernprincipes van goed openbaar bestuur: rechtsstatelijkheid, democratische legitimiteit en bestuurlijk vermogen. De overheid schiet volgens de onderzoekers tekort in transparantie, rechtsbescherming en onafhankelijke controle. Ook ontbreekt vaak een expliciet maatschappelijk en politiek debat over de vraag of deze vorm van overheidshandelen überhaupt wenselijk is.

Discriminerende effecten

Daarom pleit de commissie voor het stopzetten van lopende en geplande toepassingen van datagedreven profilering. Alleen als de overheid overtuigend kan aantonen dat systemen noodzakelijk, proportioneel en niet discriminerend zijn, zou hernieuwde inzet mogelijk mogen worden. Daarbij moeten overheidsorganisaties vooraf aantonen dat er geen directe of indirecte discriminerende effecten optreden.

Als alternatief noemt de commissie onder meer aselecte steekproeven en honderdprocentcontroles. Die methoden zouden transparanter en eerlijker zijn en minder risico geven op discriminatie. Tegelijkertijd benadrukt de commissie niet tegen dataverzameling op zichzelf te zijn. Data kunnen volgens de onderzoekers juist helpen om ongelijkheid zichtbaar te maken en discriminatie tegen te gaan, mits burgers daar expliciet toestemming voor geven en betrokken worden bij beleid.