Maxim Februari over de datadrift van de overheid
Algoritmes zijn altijd moreel gekleurd, stelt Maxim Februari in het essay 'Doe zelf normaal'.
Waarom gaat het publieke debat over de democratie zo weinig over de gevaren van datasturing? Met het essay ‘Doe zelf normaal’ raakt schrijver Maxim Februari een gevoelige snaar bij ambtenaren die er niet in slagen om het gesprek hierover op gang te krijgen.
Norm opleggen
Ze staan voor hem in de rij. Hoewel het essay Doe zelf normaal. Menselijk recht in tijden van datasturing en natuurgeweld pas enkele weken geleden verscheen, ontmoette schrijver en filosoof Maxim Februari sindsdien al veel ambtenaren die hem tijdens signeersessies komen bedanken. ‘Ze zeggen dat ze dit gesprek al zo lang proberen aan te gaan binnen hun afdeling en dat het maar niet lukt’, zegt hij. Dat gesprek gaat over het gemak waarmee veel gemeenten leunen op data en datatools van commerciële bedrijven. Het gaat over rekenmodellen die blindelings worden vertrouwd, waar inwoners met de grootst mogelijke argwaan worden bejegend. En het gaat over een toekomst waarin digitale informatiesystemen mensen de norm opleggen en daarmee de plaats van het recht in de staat veranderen.
Redelijk pleidooi
Het zijn onderwerpen die zelden zo helder en kort uit de doeken werden gedaan als in Doe zelf normaal, dat 142 bladzijden telt. Februari zag het schrijven ervan als een soort opdracht. ‘Ik besloot het te schrijven omdat er eigenlijk niks is. Nu hebben die ambtenaren een redelijk pleidooi in handen dat ze kunnen gebruiken om tegen hun leidinggevende te zeggen: lees dit eens, er gebeuren best grote en serieuze dingen waarover we het moeten hebben.’
Geen bèta-onderwerp
Waarom gaat het publieke debat over de democratie nog zo weinig over datasturing? Meer dan andere westerse landen is Nederland een alpha- en gammaland, meent Februari. ‘Iedereen denkt dat technologie een bèta-onderwerp is, wat het niet is. Na het lezen van dit boek merk ik dat veel mensen van mij verwachten dat ik vertel hoe het nu verder moet. Dat wil zeggen dat ze geen zin hebben om zichzelf in te lezen.’
Opkomst statistiek
De titel van het essay verwijst naar ‘de meest fascinerende dialoog uit de geschiedenis van de westerse filosofie’ (‘Doe normaal’, zei de parlementariër. ‘Doe zelf normaal’, zei de minister-president). Het idee van een norm waaraan je al dan niet kunt voldoen, ontstaat in de negentiende eeuw, schrijft Februari. De opkomst van de statistiek had daar een grote invloed op. Het was handig dat de overheid voortaan bijvoorbeeld wist tot welke leeftijd mensen doorgaans konden werken. Maar al snel werden zulke data gezien als een soort voorschrift waaraan burgers moeten voldoen. En die statische norm wordt des te dwingender in onze eeuw, nu het verzamelen van data voor beleidsdoelen een grote vlucht neemt.
Februari zegt: ‘Je kunt technologie gebruiken bij je werk, maar de neiging bestaat om het maar helemaal aan de technologie over te laten. Ook als je het in positieve zin gebruikt, moet je voortdurend blijven opletten wat je aan het meten bent. Is dat nog wel dat wat je wilt weten? Als overheid zul je een uitgebreid bestek moeten maken voor de omgang met ieder algoritme, met regelmatige evaluaties.’
Ook als je technologie in positieve zin gebruikt, moet je voortdurend blijven opletten wat je aan het meten bent.
BB U schrijft dat de rechtstaat en de democratie wezenlijk veranderen op het moment dat wetten worden geformuleerd in code en worden uitgevoerd in de vorm van poortjes, slagbomen en corona-apps. Wat is er zo wezenlijk anders?
In de slag van regel op papier naar code ga je van een regel naar een instructie. Met een instructie is het moeilijk onderhandelen. Je zit in een rigide omgeving van instructies die zichzelf handhaven, waarbij je geen loket meer hebt als burger waar je kunt zeggen: wacht even, in dit geval moet er een uitzondering worden gemaakt.
Dat is waarvoor Alexandra van Huffelen waarschuwde bij het e-ID. Het gevaar bestaat dat we veel meer plekken in de samenleving voorzien van sloten, waarbij burgers het e-ID nodig hebben om binnen te komen. Over dat e-ID moeten we dus nog eens goed nadenken, zei de staatssecretaris, wat de Tweede Kamer vervolgens niet heeft gedaan. Dat is vrij zorgelijk. Je kunt nu voorzien dat je een wildgroei krijgt aan poortjes, waarvan bedrijven
de sloten beheren.
BB U beschrijft een ‘magische schild’ dat gemeenten in staat stelt om automobilisten met behulp van GPS te dwingen om binnen een virtuele zone niet harder dan dertig kilometer per uur te rijden. Hoe verschilt dat van een autogordel verplichten?
Een autogordel is een regel op papier waartoe jij je kunt verhouden en waarvan je kunt besluiten om het niet te doen. Besluiten om iets niet te doen is heel heilzaam. Binnen de luchtvaartmaatschappijen is een systeem in zwang waarbij de piloot tijdens de vlucht kan beslissen om protocollen niet op te volgen. Bij terugkomst moet de piloot uitleggen waarom het protocol niet is opgevolgd en gaat men kijken of het terecht was, maar iedereen is ervan doordrongen dat dit levens redt. Als je te allen tijde alle protocollen moet opvolgen, gaat het onherroepelijk mis.
Een bestuurlijk gevaar is dat beslissingen worden genomen door de systemen en de mens wordt toegevoegd om de verantwoordelijkheid te dragen. Als er iets mis is, wordt de mens eruit gegooid en blijft het systeem in feite intact. Bij het Toeslagenschandaal wordt terecht gekeken naar de menselijke verantwoordelijken, maar mijns inziens nog te weinig naar de werking van het systeem.
Lees het hele interview met Maxim Februari deze week in BB06.
Tegelijkertijd vraag ik mij af of F. wel goed geïnformeerd is: de TK was juist tegen de deelname van NL aan de e-ID, Van Huffelen heeft zich hier niets van aangetrokken en heeft in Brussel bij het kruisje getekend.
https://www.ninefornews.nl/d66-weigert-motie-tegen-europese-regels-over-digitale-identiteit-uit-te-voeren-op-vele-vlakken-ernstig/
Of wil Marjolein van Trigt ons hier op het verkeerde been zetten?