of 62812 LinkedIn

Algoritmes bij rijksoverheid

Miranda Pirkovski Reageer

De opinie van directeur Arjan Widlak van de Kafkabrigade in Binnenlands Bestuur op het onderzoeksrapport Aandacht voor algoritmes van de Algemene Rekenkamer draagt bij aan het maatschappelijk debat over de inzet van algoritmes door de rijksoverheid. Daar zijn we blij mee en daarom reageren wij ook graag.

De Algemene Rekenkamer heeft in haar eerste onderzoek naar algoritmes binnen de rijksoverheid een selectie van aangeleverde operationele algoritmes onderzocht. Het onderzoek was gericht op de ontwikkeling van een toetsingskader voor algoritmes om te gebruiken bij toekomstige procesonderzoeken waarin het gebruik van algoritmes een rol speelt. Het onderzoek van 26 januari 2021 was vooral gericht op de data en modellen, niet zozeer op de interactie met ambtenaren en burgers.


In vergelijking met de algoritmes die buiten de overheid worden gebruikt zoals beschreven in vakliteratuur, zijn de door de Algemene Rekenkamer in dit onderzoek bij de rijksoverheid aangetroffen modellen veelal technisch relatief eenvoudig. Ook hebben we in dit onderzoek in de bedrijfsvoering van de rijksoverheid geen zelflerende algoritmes aangetroffen die zelfstandig geautomatiseerd besluiten nemen.

Dit betekent niet dat algoritmes in de uitvoering van processen, in de interactie tussen burgers en overheidsorganisaties, niet als complex kunnen worden ervaren. De Algemene Rekenkamer hoopt met dit onderzoek ook een bijdrage te leveren aan het wegnemen van begrijpelijke zorgen van burgers over een ‘wildgroei’ aan mogelijk oncontroleerbare besluitvormende algoritmes bij de rijksoverheid. Uit ons onderzoek blijkt dat de door ons onderzochte algoritmes op dit moment wel degelijk controleerbaar zijn. Of ze ook worden ingezet zoals bedoeld en of de controle daarop altijd op de juiste manier gebeurt is een goede vraag voor vervolgonderzoeken.

Zowel de inzet van algoritmes als de complexiteit (zelflerend) zal steeds verder toenemen. Terecht stipt Widlak aan dat de combinatie van algoritme en ambtenaar, de interactie daartussen en de gevolgen hiervan voor de burger, aandacht verdient. Het besef daarvan en het creëren van omstandigheden om die aandacht tot verandering te laten leiden zal in toch eerste instantie binnen de rijksoverheid zelf vorm moeten krijgen.

De Algemene Rekenkamer heeft niet voor een strikt juridisch-technisch normenkader gekozen. In het toetsingskader zijn die perspectieven meegenomen die bij onze taak als instituut behoren. Dit betekent dat wij het toetsingskader voor een specifieke doelgroep, de auditors/controleurs, hebben ontwikkeld. Andere overheidsorganisaties kunnen het kader gebruiken als input om te toetsen of de risico’s bij de ontwikkeling en het gebruik van hun algoritmes voldoende in beeld zijn en/of worden beperkt. In het toetsingskader is ethiek verbonden met andere aspecten. Bestaande raamwerken worden met ethische principes verbonden. Het toetsingskader voor algoritmes zal worden doorontwikkeld en is een begin, geen eindpunt. Wij hopen dat de ministeries maar ook andere experts (juristen, ethici) op het gebied van algoritmes hiermee inspiratie op doen voor het zelf ontwikkelen van praktische handvatten.

Widlak vindt dat onze aanbeveling ‘Geef aan waar burgers met vragen terecht kunnen’ weinig passend is, omdat de verbinding met de praktijk is verloren. Onze aanbeveling is breder dan dat, juist geïnspireerd door een werkend voorbeeld uit de praktijk bij de gemeente Amsterdam. Wij bevelen het kabinet aan om opener te zijn over de inzet van complexe algoritmes, om burgers op een logische plek inzicht te geven in het gebruik en de werking, welke data worden gebruikt, hoe de algoritmes op hoofdlijnen functioneren, welke impact de uitkomsten daarvan kunnen hebben en wat ze kunnen doen als ze zich benadeeld voelen. Uit onze samenwerking met andere Hoge Colleges van Staat (waaronder de Nationale ombudsman) weten we dat deze aanbeveling breed wordt gedragen.


De tien criteria uit Wildlaks publicatie 'De Digitale Kooi' zijn voor ons input voor toekomstige onderzoeken naar algoritmes en verdere ontwikkeling van het toetsingskader.

Miranda Pirkovski, projectleider onderzoek “Aandacht voor algoritmes” bij Algemene Rekenkamer


Het ingezonden stuk van Arjan Widlak vindt u hier

Verstuur dit artikel naar Google+

Reageer op dit artikel
















Even geduld a.u.b.