of 62236 LinkedIn

Rekenkamer heeft aandacht voor algoritmen, maar niet voor de burger

Arjan Widlak Reageer

De Algemene Rekenkamer publiceerde het onderzoeksrapport ‘Aandacht voor algoritmes’. Zij zegt een overzicht te schetsen van waar het rijk algoritmes inzet, welke soorten en effecten er zijn en de sturing daarop. Het beeld dat de Rekenkamer neerzet slaat de plank mis, qua feiten, theorie en aanbevelingen.

Het rijk zet slechts eenvoudige algoritmes in, zegt de Rekenkamer, de effecten op burgers zijn beperkt, algoritmes nemen zelden zelf besluiten en mensen zijn nadrukkelijk betrokken bij het gebruik. Deze constateringen zijn onjuist. Het idee dat algoritmes eenvoudig zijn, wanneer ze gebaseerd zijn op eenvoudige concepten, is een denkfout. Daarnaast neemt de overheid de meerderheid van de individuele besluiten al lang volautomatisch. En de effecten voor burgers zijn enorm.

De Rekenkamer legt de focus op experimentele algoritmen in de hoek van data-analyse, zonder dat zij dit expliciet maakt. De meeste algoritmen zijn al lang niet experimenteel meer. Automatische besluitvorming is de kern van het openbaar bestuur. Algoritmen zijn óók automatisering van processen en gegevensuitwisseling, niet alleen patroonherkenning.

De Rekenkamer neemt – ook impliciet – aan dat de effecten afgeleid kunnen worden uit het algoritme zelf, vermoedelijk omdat zij criteria zoekt om algoritmen te toetsten. Ook dat is onjuist. Als een organisatie met software patronen in data zoekt – want daar gaat het rapport eigenlijk over – dan verandert er veel meer, zoals het werk van de ambtenaren. Waar zij eerst zelf selecteerden, worden ze nu controleur van de software óf beperken zich blind tot een selectie door software. Het eerste vraagt geheel andere kennis en competenties. Het tweede kan een keuze zijn, mits het eerste goed is geregeld.

Ook kan een ethisch normenkader niet zomaar een onderdeel zijn van bestaande kaders voor algoritmen zelf. Wat de digitalisering van de overheid kenmerkt is juist de verwevenheid op het niveau van gegevensuitwisseling en algoritmisering. De meeste effecten voor burgers blijken op een systeemniveau waarvoor niemand zich verantwoordelijk voelt. Wanneer je de impact van algoritmen wilt begrijpen moet je niet met een nauw juridisch-technisch kader kijken, maar naar de impact op echte mensen. Anders worden je conclusies absurd, zoals het idee dat er geen probleem is met transparantie. De Rekenkamer kon de algoritmen inzien. Vinkje.

De ambitie van de Rekenkamer is niet ondoenlijk. Een mogelijke andere aanpak heb ik beschreven in De Digitale Kooi. Daarin leid ik tien toetsbare criteria af uit concrete problemen voor burgers, zoals het fenomeen dat een fout zich als een olievlek verspreidt, maar een correctie niet. De technische oorzaak daarvan ligt in de wijze van gegevensopslag en -uitwisseling. Daar kun je op toetsten. Maar je vindt probleem, noch oplossing, wanneer je kijkt naar één algoritme.

Een aanbeveling als ‘geef aan waar burgers met vragen terecht kunnen’ is zo weinig passend, omdat de verbinding met de praktijk is verloren. Van de Rekenkamer verwacht ik meer. Sterker, ik verwacht een samenwerking van de Nationale Ombudsman, die signalen uit de praktijk ontvangt, de Algemene Rekenkamer, die deze signalen kan onderzoeken en vertalen in normenkaders en de Auditdienst Rijk, die zo’n toets tot een nieuw normaal kan maken.

Arjan Widlak, directeur van Stichting Kafkabrigade en auteur van het boek De Digitale Kooi.

Verstuur dit artikel naar Google+

Reageer op dit artikel
















Even geduld a.u.b.