of 60220 LinkedIn

Maatregelen tegen discriminatie door algoritme

Om te voorkomen dat burgers slachtoffer worden van discriminatie door digitale systemen van de overheid, komen er vanaf volgend jaar meer maatregelen om algoritmes van te voren te toetsen. Vanaf 2021 kijkt de overheid scherper naar de impact van algoritmes en zijn er duidelijkere richtlijnen waar ze aan moeten voldoen, zei staatssecretaris Raymond Knops (Binnenlandse Zaken) tijdens een debat over digitalisering.
1 reactie

Om te voorkomen dat burgers slachtoffer worden van discriminatie door digitale systemen van de overheid, komen er vanaf volgend jaar meer maatregelen om algoritmes van te voren te toetsen. Vanaf 2021 kijkt de overheid scherper naar de impact van algoritmes en zijn er duidelijkere richtlijnen waar ze aan moeten voldoen, zei staatssecretaris Raymond Knops (Binnenlandse Zaken) tijdens een debat over digitalisering.

Keuzemomenten

Een algoritme is een stappenplan dat een computer uitvoert. In dit stappenplan zitten vaak een of meerdere keuzemomenten, bijvoorbeeld op basis van kenmerken als leeftijd, geslacht, of jaarlijks salaris. Zo kan een algoritme verschillende keuzes voor verschillende gevallen maken.

Betere algoritmes
Volgens Knops ontwikkelt de Technische Universiteit Eindhoven plannen waarmee programmeurs betere algoritmes kunnen ontwikkelen. Ook gelden volgend jaar de toetsingskaders waarmee de Algemene Rekenkamer algoritmes beoordeelt. Daarin zijn onder andere het bewustzijn op de risico's en de bescherming van de privacy opgenomen.

Problemen met algoritmes

De Tweede Kamer maakt zich al langer zorgen over de problemen die algoritmes bij de overheid kunnen veroorzaken. Zo maakte de reclassering gebruik van een systeem om recidive te voorspellen, dat burgers mogelijk op grond van ras benadeelde. Ook werd eerder het anti-fraudesysteem SyRi (Systeem Risico Indicatie) stopgezet, omdat niet duidelijk was op welke basis burgers als fraudeur werden aangewezen.


Transparantie
D66-Kamerlid Kees Verhoeven verzuchtte woensdag nog weinig grip te hebben op de huidige algoritmes die de rijksoverheid gebruikt. Hij wil een meldplicht voor nieuwe algoritmes bij de Autoriteit Persoonsgegevens. Nevin Özütok (GroenLinks) wilde weten of ook bestaande programma's opnieuw tegen het licht worden gehouden. De staatssecretaris zei 'het gevoel van ongemak te delen' en wil verder inzetten op transparantie van de programma's. (ANP)

Verstuur dit artikel naar Google+

Gerelateerde artikelen

Reageer op dit artikel
















Even geduld a.u.b.

Reactie op dit bericht

Door Rekenaar (medewerker) op
Privacy is een groot goed maar moet m.i. wijken wanneer iemand of een groep zich daarachter kan verschuilen om zaken te verhullen. Dat hoort niet alleen te gelden voor levensdelicten of gesignaleerde dreigingen in die richting maar ook voor het onrechtmatig onttrekken van informatie aan controlerende instanties.
Onder de laatste categorie vallen ook fraudezaken vanwege verzwegen inkomsten en bezit van onroerend goed in het buitenland.
We moeten af van die zogenaamde heiligheid van partijen als D'66 die niet willen onderkennen dat deze vorm van fraude statistisch vaker voorkomt bij personen met een migratie-achtergrond. Juist een goede screening met behulp van algoritmes helpt hierbij. Het draagt zelfs bij aan het voorkomen van rechtsongelijkheid al willen kamerleden als Kees Verhoeven ons het tegengestelde doen geloven.
Waarschijnlijk was de 18-jarige jongen in Bernheze nog in leven wanneer we eens afstapten van dat hooggeheven vingertje over privacy. Dan hadden alle betrokkenen geweten welke tikkende tijdbom ze daar zo liefdevol hebben geprobeerd op te vangen.
Met verpletterende dank aan al die preciezen die onze heilige privacy zo zorgvuldig bewaken!.