of 62236 LinkedIn

Laat burgers meebeslissen over algoritmen overheden

Jasper Kars 1 reactie

De rijksverheid heeft te weinig oog voor de ethische aspecten van algoritmegebruik, stelt de Algemene Rekenkamer in haar recent verschenen rapport. Pijnlijke voorbeelden zoals de toeslagenaffaire en SyRI - een systeem dat poogde uitkeringsfraude tegen te gaan, maar strijdig bleek met het Europees Verdrag voor de Rechten (EVRM) - tonen aan dat er nog veel te winnen valt op het terrein van digitale duurzaamheid. 

Vooralsnog staan de digitale belangen van de overheid nog te vaak boven die van burgers en dat terwijl de grote datahonger van de overheid nog lang niet is gestild. Om op een eerlijkere wijze om te springen met big data, pleiten verschillende organisaties daarom voor meer transparantie en rekenschap. Zo maakt Amnesty Nederland zich onder meer sterk voor een algoritmewaakhond en is de Rekenkamer van mening dat vragen van bezorgde burgers over algoritmegebruik meer aandacht verdienen. Uiteraard heeft dit soort initiatieven potentie, maar ze zijn slechts een druppel op een gloeiende plaat.

 

Het leeuwendeel van dergelijke oplossingen is vaak technocratisch van aard en dat zit de democratisering van data in de weg. Ze leunen sterk op de expertise van programmeurs, bestuurders of ambtenaren met voldoende datakennis, waardoor de afstand tussen burger en algoritme niet wordt verminderd. Door burgers zelf actiever te betrekken bij het ontwikkelen van algoritmes kan een stap in de juiste richting worden gezet.

 

Er bestaan inmiddels raamwerken die burgers en ontwikkelaars gezamenlijk in staat stellen om verschillende opvattingen in modellen te verwerken. Zo kunnen betrokkenen individueel stemmen op zaken die ze belangrijk vinden, en daarmee zelf bijdragen aan het doel van het algoritme. Dit verlaagt de kans op 'discriminerende algoritmen' – die vaak het resultaat zijn van een te eenzijdige kijk op dataverzameling. Zo’n participatieve benadering leidt bovendien tot een groter bewustzijn bij burgers over hoe algoritmes in elkaar steken en het zal nieuwe kafkaëske toestanden kunnen voorkomen. Het maakt de ontwikkeling van nieuwe algoritmes transparanter op twee cruciale gebieden: begrijpbaarheid én rekenschap. Want zoals ook de Rekenkamer bevestigt: veel door overheden toegepaste algoritmes zijn geen “black box” en kunnen uitstekend geanalyseerd worden.

 

Juist omdat het algoritmegebruik van overheden nog maar in de kinderschoenen staat, is de participatieve democratie een prachtmiddel om burgers – vanaf de ontwerptafel - mee te laten denken over wat er met hun data gebeurt. Recentelijk dient participatieve democratie zich in Europa aan als een veelbelovend middel om complexe maatschappelijke problemen aan te pakken. Zo leverden de zogenoemde ‘Citizens Assemblies’ in Ierland een grote bijdrage aan de legalisering van abortus en bewezen de Nederlandse klimaattafels hoe een breed scala aan betrokkenen succesvol tot een akkoord kunnen komen. Meer aandacht besteden aan de rol van burgers bij de ontwikkeling van nieuwe algoritmes, zou voor de overheid een gouden zet zijn richting een duurzame, digitale toekomst.

 

Jasper Kars, Masterstudent Data Science and Society aan Tilburg University

Verstuur dit artikel naar Google+

Reageer op dit artikel
















Even geduld a.u.b.

Reactie op dit bericht

Door AvWassenaar (Kritisch Nederlander) op
@Jasper Kars, wat een prima stukje informatie over moderne algoritmiek! En hoe deze in onze huidige leefwereld al is ingebed!
Voor velen een onbegaanbaar pad, helaas, en niet zondermeer voor iedereen begrijpelijk te maken! De Gemiddelde Nederlander schijnt hier nogal naïef tegenover te staan.

Dus heeft onze (r)Overheid hier voorlopig vrij spel ~!@#$~
De beperkende "raamwerken" gedachte lijkt me de meest preferente weg...We mogen van geluk spreken dat er jonge krachtige individuen zijn zoals jij, die zich hierover willen uitspreken.

Ik wens je daar alle wijsheid en kracht bij. Houd vol en laat je niet ontmoedigen. Blijf jouw mening ventileren en spreek jouw politieke vertegenwoordigers aan en help hen aan de hand van jouw kennis deze materie beter te begrijpen en daarmee, voor haar achterban, de Overheid beter te kunnen controleren. Het zal helaas hard nodig zijn!