Algoritmes? Ons niet bellen

Datagedreven werken en de inzet van algoritmes gaan vaak hand in hand, al dan niet onder de motorkap. Het promotieonderzoek van Maranke Wieringa beschrijft hoe gemeenten omgaan met algoritmes. Er blijkt soms sprake van een vorm van cognitieve dissonantie, waarbij de eigen algoritmes niet als ‘echte’ worden gezien.

Er zijn gemeenten, ook grotere, die het woord ‘algoritme’ nooit laten vallen tijdens in hun raadsinformatie. Binnen de G40, het netwerk van gemeenten met meer dan 100.000 inwoners, is er zelfs eentje met nul treffers in het raadsinformatiesysteem op het woord ‘data’. Om te zeggen dat aandacht voor verantwoord datagebruik bij alle gemeenten overal top of mind is, is dus beslist overdreven. Toch ziet promovendus Maranke Wieringa de interesse in het onderwerp toenemen in de jaren dat het proefschrift over verantwoord datagebruik tot stand komt. Naast een baan als consultant voor gemeenten en publieke organisaties op het gebied van het uitvoeren en inrichten van verantwoord algoritmegebruik, werkt Wieringa één dag per week aan dat onderzoek.

In het onderzoek onderscheidt Wieringa vier strategieën voor de omgang met algoritmes. De G4 zijn typisch koplopergemeenten, die al veel gebruikmaken van algoritmes en druk bezig is om de randvoorwaarden voor verantwoord gebruik vast te leggen. ‘Terwijl koplopergemeenten al bezig zijn, timmeren ze de vangrails in de weg,’ beschrijft Wieringa. Dé koplopers in Nederland zijn Amsterdam en Rotterdam. Zij hebben onder meer in een consortium de inkoopvoorwaarden voor algoritmes ontwikkeld. Ook Utrecht en Den Haag vallen onder de koplopers.

Een tweede categorie bestaat uit wat Wieringa de fast fashionista’s noemt. ‘Dat zijn gemeenten die heel snel met algoritmetoepassingen van start gaan, omdat ze grote kansen zien in innovatie, maar die initieel minder aandacht hebben voor het plaatsen van de vangrails.’ Nissewaard ging in het verleden onderuit met een fraudedetectie- algoritme dat onder andere ‘onvoldoende toetsbaar’ was en waarbij documentatie ontbrak. Om die reden zou deze gemeenten tot de fast fashionista’s kunnen worden gerekend.

Hekkensluiters

Er zijn ook veel gemeenten die liever de kat uit de boom kijken. Ze proberen eerst lering te trekken uit wat anderen doen, voordat ze zelf voorzichtig aan de slag gaan. ‘Die gemeenten willen eerst de vangrails neerzetten voordat ze van start gaan,’ aldus Wieringa. Onder de kat uit de boom-kijkers bevinden zich veel gemeenten uit de G40. Een vierde categorie, in het onderzoek de hekkensluiters genoemd, geeft aan dat data binnen de organisatie nog niet op orde zijn, of dat het onderwerp datagedreven werken überhaupt nog niet op de kaart staat. Vaak zijn het kleine gemeenten met weinig capaciteit. Algoritmes? Ons nog even niet bellen.

De strategieën beslaan een spectrum waarbinnen organisaties een positie innemen. Iedere positie heeft zijn voors en tegens, benadrukt de promovendus. Het hangt er bijvoorbeeld sterk van af of datagedreven werken al goed is ingebed binnen de organisatie en of er voldoende capaciteit beschikbaar is om aandacht te besteden aan verantwoord algoritmegebruik. Koploper zijn is dus niet per sé goed, al biedt het wel voordelen. ‘Naar verwachting wordt het met de komst van de AI Act verplicht om alle algoritmes die impact hebben op inwoners en bedrijven te registeren. Gemeenten die nu bijdragen aan het nationaal algoritmeregister, helpen mee vormgeven hoe dat register eruitziet en wat er al dan niet in wordt opgenomen. Maar daar moet je maar net de mankracht voor hebben.’

Nadenken over vangrails kan hoe dan ook geen kwaad, hoe groot of klein de gemeente ook is. Wieringa: ‘Maak een bewuste keuze in hoeverre je vangrails nodig hebt en welke soort vangrails dan.’ Die metaforische vangrails bestaan vaak uit zeer praktische zaken, zoals het instellen van een ethische commissie of adviesraad, het vastleggen van inkoopvoorwaarden, het bepalen wanneer er een impact assessment moet plaatsvinden voordat een algoritme wordt ingezet en welke dat moet zijn en het bespreken van governance-gerelateerde vraagstukken.

Simpele systemen

Een vaste definitie van een algoritme kent de overheid nu nog niet (wordt aan gewerkt). Het gevolg is dat er vaak een schok door een organisatie gaat als Maranke Wieringa vertelt wat er allemaal als een algoritme kan worden gezien. ‘Mensen denken als eerste aan algoritmes met een grote A. Daaronder valt datgene wat andere mensen ergens anders aan het doen zijn, zoals het Netflix-algoritme, Google, deep learning, neurale netwerken. Maar algoritmes zijn ook beslisbomen, of gewoon hele simpele systemen die een berekening uitvoeren. En dan heb je er opeens best wel veel.’

Het lijkt een vorm van cognitieve dissonantie: algoritmes worden nu binnen gemeenten gedefinieerd door wat ze niet zijn. ‘Vaak hoor ik: “we hebben wel algoritmes, maar geen automatische besluitvorming, of geen zelflerende systemen”,’ zegt Wieringa. ‘Dat is een manier om er nog niet over na te hoeven denken. Het besef dat simpele systemen ook best ingrijpende consequenties kunnen hebben, leeft nog niet zo sterk.’

Decennia van automatisering hebben geleid tot systemen die op zich simpele algoritmes bevatten, die wel automatische besluitvorming uitvoeren. Ze controleren bijvoorbeeld of iemand de betalingsregeling van een gemeentelijke belastingschuld goed terugbetaalt. Zo niet, dan wordt de regeling automatisch stopgezet. ‘Dat soort systemen bestaan wel degelijk, maar ik heb ze nog nergens in het algoritmeregister gezien,’ zegt Wieringa. ‘Dat zegt iets over de volwassenheidsslag die nog moet worden gemaakt.’

De cognitieve dissonantie leidt ertoe dat gemeenten niet het gevoel hebben dat ze serieus moeten nadenken over de algoritmes die ze wél gebruiken, is de bevinding van de onderzoeker. ‘Ze doen het nu eenmaal al jaren zo. Waarop ik antwoord: “Klopt, maar misschien hadden we er toen ook al over na moeten denken.”’

Inhaalslag

Een goed argument om de algoritmes binnen de organisatie aan een onderzoek te onderwerpen, is de aankomende wet- en regeling. De details van de AI Act laten nog op zich wachten, maar met de basisideeën die erachter zitten kun je vandaag al aan de slag, betoogt Wieringa. ‘Het is voor kleine gemeenten de overweging waard om nu een kleine aanstelling vrij te maken om de organisatie erop voor te bereiden. Dat bespaart je bij wijze van spreken straks twintig man bij een inhaalslag.’ Alle systemen uitpluizen op mogelijke algoritmes én alle impactvolle algoritmes registeren is veel werk, maar helemaal niets doen en hopen dat het wel overwaait, is volgens Wieringa evenmin een optie.

‘Leer van de AVG. Er zal vast een overgangsperiode zijn als de AI Act van kracht gaat, maar als je te laat begint, is het sowieso lastig om de achterstand in te halen. Denk alvast na over wat jouw organisatie kan en wil met data en algoritmes, want links- of rechtsom zul je toch datagedreven gaan werken. Niemand accepteert het meer als ambtenaren pen en ganzenveer hanteren. We verwachten dat onze overheid efficiënt werkt, maar andere waarden mogen niet klakkeloos ten koste gaan van efficiëntie. We moeten daar bewust de goede gesprekken over voeren. Dat is de slag die we nu gaan maken.’