of 59162 LinkedIn

‘Bestuurders moeten algoritmen temmen’

Paul Strijp, sectormanager bestuur van de provincie Noord-Holland, stelt dat deze week in een essay in Binnenlands Bestuur. Langzaam wordt duidelijk dat algoritmen, in essentie niet meer of minder dan rekenmethoden die worden toegepast op grote hoeveelheden data, bezig zijn aan een opmars. De overheid blijft daarbij volgens hem niet achter.

Omdat algoritmen niet altijd doen wat ze moeten doen, is controle noodzakelijk. Die wordt steeds lastiger omdat algoritmen steeds complexer en uiteindelijk zelfs onbegrijpelijk worden. ‘Elk bestuursorgaan twee opties: experimenteren met controle of berusten in de victorie van de technologie op onze democratie.’

Dat stelt Paul Strijp, sectormanager bestuur van de provincie Noord-Holland, deze week in een essay in Binnenlands Bestuur. Langzaam wordt duidelijk dat algoritmen, in essentie niet meer of minder dan rekenmethoden die worden toegepast op grote hoeveelheden data, bezig zijn aan een opmars. De overheid blijft daarbij volgens hem niet achter. ‘Zij heeft vooral tot doel om het gedrag van haar burgers te voorspellen’, aldus Strijp. Steeds meer beleidsterreinen worden data-gestuurd: de aanpak van voortijdige schooluitval, het armoedebeleid, de bepaling van milieuzones, het reguleren van bezoekers- en verkeersstromen.

Verkeerde dingen
Die voorspellingen stellen gemeenten in staat om vroegtijdig gerichte interventies te doen. Om bijvoorbeeld de eenzaamheid en depressiviteit vóór te zijn. Maar algoritmen kunnen volgens Strijp ook voor een wat minder paradijselijke wereld zorgen. ‘Soms doen ze niet wat ze moeten doen. Dan discrimineren ze bijvoorbeeld’, stelt hij. En algoritmen kunnen ook sociale tegenstellingen vergroten. ‘En hoe slim ze ook zijn, soms leren ze zichzelf de verkeerde dingen.’

Vileine vraag
Politiek gezien is volgens hem niet zo dat een wethouder van een willekeurige gemeente moet vrezen voor een vileine vraag van een gemeenteraadslid over een algoritme. ‘Dat neemt niet weg dat zich voorzichtig een kennisbasis vormt’, aldus Strijp. Zo is er inmiddels een aantal onderzoeken uitgevoerd naar de werking van data en algoritmen, zoals het onderzoek van het Rathenau Instituut naar de vraag of een aparte adviescommissie voor ethische kwesties rondom technologie en data in een behoefte zou voorzien. ‘De belangrijkste conclusie: een commissie is niet nodig. Overheid, bedrijfsleven en maatschappelijk middenveld moeten eerst zelf maar eens in actie komen. Voor het toezicht op algoritmen achtte het instituut evenmin een nieuwe toezichthouder of nieuwe wet- of regelgeving nodig. Volgens de onderzoekers kan de overheid nu al normerende kaders opstellen, bijvoorbeeld over de wijze waarop een softwareontwikkelaar verantwoording kan afleggen over de werking van complexe algoritmen.’

Decentrale overheden
In maart lag er een kabinetsstandpunt in reactie op onder andere het rapport Opwaarderen. Het kabinet nam de aanbeveling over om géén adviescommissie in te stellen en zoekt de oplossingen in deze fase vooral in maatregelen zoals juridisch-wetenschappelijk onderzoek, een expertbijeenkomst, een adviesaanvraag, experimenten en dialogen.

‘Opvallend in zowel het rapport Opwaarderen als in het kabinetsstandpunt is de geringe aandacht voor decentrale overheden. Terwijl in het licht van de smart cities met name bij gemeenten ruimte is om concreet aan de slag te gaan. Daarvoor hoeven de maatregelen van het kabinet niet te worden afgewacht’, stelt Strijp. ‘We zien nu al initiatieven voor ethische verklaringen. Zoals Tada! duidelijk over data. Hiermee scharen bedrijven, overheden, maatschappelijke organisaties en burgers zich achter een aantal gezamenlijke principes voor een verantwoorde digitale stad. Eén van die principes is menselijke maat: “Data en algoritmen hebben niet het laatste woord. Menselijkheid gaat altijd voor. We laten ruimte voor onvoorspelbaarheid”.’

Rol accountant
Er is, aldus Strijp, nog een andere route om de algoritmen te lijf te gaan: via de accountancy. Een accountant bedenkt vooraf waar de grootste kansen op fouten in de jaarrekening liggen en stemt daar zijn controle op af. Die denkrichting leent zich volgens hem uitstekend voor controle op algoritmen. ‘Centraal staat het risico dat een algoritme een verkeerde beslissing neemt. Gemeenten, andere bestuursorganen en accountants kunnen deze handschoen oppakken.’

Algoritmen zijn rekenmethoden, instructies die de computer volgt, waarbij geen menselijke instructies meer bij komen kijken. Ze vormen een heuse black box, ‘zij gaan met de mens aan de haal’, aldus Strijp. ‘Elk bestuursorgaan heeft twee opties. Deze opties representeren het democratisch dilemma. De eerste is: experimenteren met een accountantsverklaring of een ethisch programma, trial and error. De tweede optie luidt: berusten, niets doen. Onder ogen zien dat we zo langzamerhand op een moment in onze geschiedenis zijn beland dat de technologie ons de baas wordt. Dat controle op neurale netwerken te complex is geworden en dat de voor democratie noodzakelijke checks and balances steeds meer een schijnvertoning vormen.’

Lees het volledige essay in Binnenlands Bestuur nr. 13 van deze week (inlog)

Verstuur dit artikel naar Google+

Reageer op dit artikel
















Even geduld a.u.b.

Reactie op dit bericht

Door Remco van der Wees (Adviseur ) op
Dit artikel doet wekt de indruk dat zelflerende algoritmen al veelvuldig worden ingezet binnen de (lokale)overheid. Kunnen hier ook voorbeelden van worden genoemd? Ik ken n.l. nog geen gemeenten waar dergelijke zelflerende algoritmes worden gebruikt.
Door Mr A.F. le Gras (Bestuursadviseur) op
Er kan niet genoeg op gewezen worden dat algoritmen zich in bijna alle gevallen aan democratische controle onttrekken omdat bijna niemand de brug kan slaan tussen geformuleerd beleid en in algoritmen opgenomen beslisvariabelen. Met de vinger wijzen naar "schuldigen" omdat die "de kennis en kunde niet hebben om algoritmen te begrijpen" of het probleem wegzetten als "overdramatisering" gaat daarbij niet helpen. De dommerikken die van algoritmen geen kaas gegeten hebben zijn nl niet alleen de directe gebruikers, maar alle democratische organen die controle op de uitvoering van het beleid moeten uitoefenen.

Algoritmen vormen daarmee een gevaar voor onze democratie, totdat we een effectieve manier gevonden hebben om algoritmen te valideren. Zolang dat niet het geval is, lijkt het verstandiger om het gebruik van algoritmen in het openbaar bestuur te verbieden.

Door P.J. Westerhof LL.M MIM op
De discussie over vorm, inhoud en gebruik van algoritmen in juridisch-administratieve processen is alweer zo'n 30 jaar oud. Frank Kuitenbrouwer wijdde er destijds in de NRC ook al columns aan.

Daarbij is het betoog van Prijs nogal over-dramatisch te noemen.
Niet de algoritmen zijn het probleem, maar de kennis en kunde van diegenen die van deze algoritmen gebruik maken.

Overigens maakt 'de accountant die vooraf bedenkt waar de grootste kansen op fouten in de jaarrekening liggen en daar zijn/haar controle op af stemt' óók reeds gebruik van een algoritme.
Aldus, volgens Prijs, leent een dergelijk algoritme zich uitstekend voor controle op algoritmen.
QED.
Door Richard (beleidsmedewerker) op
Twee reacties op de suggestie voor accountants:
1. Het is nu al moeilijk om accountants in te huren voor gemeentelijke overheden.

2. Wellicht zou het beter zijn om in plaats van accountants een onafhankelijke toezichthouder dit werk te laten doen.