Advertentie
digitaal / Nieuws

Vragen over algoritmegebruik decentrale overheden

Welke gemeenten en welke provincies gebruiken algoritmes en met welk doel? Tweede Kamerlid Renske Leijten (SP) wil weten of demissionair minister Ollongren (Binnenlandse Zaken, CDA) bereid is hiernaar onderzoek te doen, naar aanleiding van de algoritmes die Rotterdam gebruikt om bijstandsfraude op te sporen.

23 december 2021
Digitale-vraag-shutterstock-155467382.1.jpg

Welke gemeenten en welke provincies gebruiken algoritmes en met welk doel? Tweede Kamerlid Renske Leijten (SP) wil weten of demissionair minister Ollongren (Binnenlandse Zaken, CDA) bereid is hiernaar onderzoek te doen, naar aanleiding van de algoritmes die Rotterdam gebruikt om bijstandsfraude op te sporen.

Gerechtvaardigd

‘Op welke manieren wordt er door gemeenten of andere overheden getoetst of het gebruik van een dergelijk algoritme de meest proportionele maatregel is ten aanzien van andere maatregelen?’ wil Leijten weten. Verder vraagt ze onder meer aan welke regels algoritmegebruik moet voldoen, of Rotterdam aan deze regels voldoet, en of de minister het gerechtvaardigd vindt dat overheden ‘algoritmes gebruiken gebaseerd op kenmerken als woonplaats, leeftijd, geslacht, levensovertuiging, burgerlijke staat of etnische achtergrond’.

 

Onvoldoende aandacht

Vorige week onthulde onderzoeksprogramma Argos dat de gemeente Rotterdam een algoritme gebruikt om bijstandsfraude op te sporen op basis van bijvoorbeeld taal, woonwijk, geslacht en indicaties van financiële en psychische problemen. In april concludeerde de Rotterdamse rekenkamer dat de gemeente onvoldoende aandacht heeft voor de risico’s en dat het voor burgers vrijwel onmogelijk is om inzicht te krijgen in hoe ze precies werken.

 

Onvoldoende waarborgen

Rotterdam maakte eerder gebruik van Systeem Risico Indicatie oftewel SyRI, een fraudeopsporingssysteem van de overheid waarover de rechtbank in Den Haag begin 2020 oordeelde dat het ‘onvoldoende inzichtelijk en controleerbaar’ was. Het diende weliswaar een legitiem doel en het was in het belang van economisch welzijn, maar er waren er ‘onvoldoende waarborgen ter bescherming van het recht op respect voor het privéleven’ – een van de vereisten van het Europees Verdrag voor de Rechten van de Mens.

 

Risico

Vanuit Europa is wetgeving op komst die duidelijkheid moet scheppen. Met de Artificial Intelligence Act probeert de Europese Unie een kader te schetsen voor kunstmatige intelligentie (waarmee data wordt gecombineerd en gebruikt) zoals de AVG dat doet voor het verzamelen en verwerken van data. De wetgeving deelt kunstmatige intelligentie in in vier groepen: minimaal, beperkt, hoog en onacceptabel risico. Een algoritmetoezichthouder, waarover wordt gesproken in het regeerakkoord, zal in Nederland de controle van algoritmes moeten bewaken.

Reacties: 2

U moet ingelogd zijn om een reactie te kunnen plaatsen.

de jong / ambtenaar
Ik kan u nu al vertellen hoe die vlag er bij hangt: zeer belabberd en zeer verontrustend. Et wordt op lokaal niveau heel wat afgehobbied met steun van private app-ontwikkelaars en software bedenkers. Noem het fraudebestrijding en bijstand en alle gemeenten springen in de houding om de meest idiote dingen te doen op dit gebied. Mensen die in de bijstand zitten moeten er rekening mee houden dat ze in soort virtuele stasi-wereld terecht zijn gekomen. Met toefje 'het Proces' er over heen.
Uw emailadres wordt enkel gebruikt om mogelijk contact met u op te nemen naar aanleiding van uw bericht en is enkel zichtbaar voor de redactie.
per / gepensioneerd
Decentralisatie dat is weer een andere toekomstige rechtbank kraker .Wetgeving die anders geïnterpreteerd en toegepast wordt door verschillende gemeentes. Ik zie de miljoenen claim al hangen.
Uw emailadres wordt enkel gebruikt om mogelijk contact met u op te nemen naar aanleiding van uw bericht en is enkel zichtbaar voor de redactie.
Advertentie