Vragen over algoritmegebruik decentrale overheden

Welke gemeenten en welke provincies gebruiken algoritmes en met welk doel? Tweede Kamerlid Renske Leijten (SP) wil weten of demissionair minister Ollongren (Binnenlandse Zaken, CDA) bereid is hiernaar onderzoek te doen, naar aanleiding van de algoritmes die Rotterdam gebruikt om bijstandsfraude op te sporen.

Gerechtvaardigd

‘Op welke manieren wordt er door gemeenten of andere overheden getoetst of het gebruik van een dergelijk algoritme de meest proportionele maatregel is ten aanzien van andere maatregelen?’ wil Leijten weten. Verder vraagt ze onder meer aan welke regels algoritmegebruik moet voldoen, of Rotterdam aan deze regels voldoet, en of de minister het gerechtvaardigd vindt dat overheden ‘algoritmes gebruiken gebaseerd op kenmerken als woonplaats, leeftijd, geslacht, levensovertuiging, burgerlijke staat of etnische achtergrond’.

Onvoldoende aandacht

Vorige week onthulde onderzoeksprogramma Argos dat de gemeente Rotterdam een algoritme gebruikt om bijstandsfraude op te sporen op basis van bijvoorbeeld taal, woonwijk, geslacht en indicaties van financiële en psychische problemen. In april concludeerde de Rotterdamse rekenkamer dat de gemeente onvoldoende aandacht heeft voor de risico’s en dat het voor burgers vrijwel onmogelijk is om inzicht te krijgen in hoe ze precies werken.

Onvoldoende waarborgen

Rotterdam maakte eerder gebruik van Systeem Risico Indicatie oftewel SyRI, een fraudeopsporingssysteem van de overheid waarover de rechtbank in Den Haag begin 2020 oordeelde dat het ‘onvoldoende inzichtelijk en controleerbaar’ was. Het diende weliswaar een legitiem doel en het was in het belang van economisch welzijn, maar er waren er ‘onvoldoende waarborgen ter bescherming van het recht op respect voor het privéleven’ – een van de vereisten van het Europees Verdrag voor de Rechten van de Mens.

Risico

Vanuit Europa is wetgeving op komst die duidelijkheid moet scheppen. Met de Artificial Intelligence Act probeert de Europese Unie een kader te schetsen voor kunstmatige intelligentie (waarmee data wordt gecombineerd en gebruikt) zoals de AVG dat doet voor het verzamelen en verwerken van data. De wetgeving deelt kunstmatige intelligentie in in vier groepen: minimaal, beperkt, hoog en onacceptabel risico. Een algoritmetoezichthouder, waarover wordt gesproken in het regeerakkoord, zal in Nederland de controle van algoritmes moeten bewaken.