Medewerkers van de gemeente Utrecht leven de richtlijnen voor een verantwoorde inzet van algoritmes onvoldoende na. Daardoor is niet altijd duidelijk of er wel de juiste maatregelen worden genomen om risico’s te verminderen. Dat concludeert de Rekenkamer Utrecht, die het gebruik van algoritmes bij de gemeente onderzocht.
Risicobeheersing algoritmes in Utrecht moet beter
De Rekenkamer Utrecht onderzocht het gebruik van algoritmes bij de gemeente en ziet dat de richtlijnen niet altijd worden nageleefd.
Algoritmeregister concreter
Utrecht was altijd een voorloper op het gebied van algoritmeregistratie. Al in 2020 had een gemeente een eigen algoritmeregister. Alle 45 impactvolle algoritmes die de gemeente gebruikt, zijn daarin te vinden. De Rekenkamer Utrecht is in het onderzoek echter niet te spreken over de kwaliteit van de informatie in het register, die actueler en concreter kan zijn. Er zou meer moeten staan over de risico’s per algoritme en de reden waarom het algoritme als impactvol wordt gezien.
Richtlijnen niet consequent toegepast
Utrecht heeft beleid voor algoritmegebruik, dat centraal wordt vastgesteld. De rekenkamer ziet dat afdelingen de richtlijnen niet consequent toepassen. Zo is het de bedoeling dat een mens altijd het besluit neemt, niet het algoritme. Toch kwam de rekenkamer tijdens het onderzoek een algoritme tegen dat werkte zonder menselijke tussenkomst.
De rekenkamer kwam een algoritme tegen dat werkte zonder menselijke tussenkomst.
Ook moet ieder algoritme worden getoetst op ethische waarden voordat de gemeente het inzet. Dat gebeurt wel, maar of er vervolgens ook iets gebeurt met de verbeterpunten die uit zo’n toets komen, is weer een andere vraag. De rekenkamer beveelt aan om dat beter in de gaten te houden.
Afdelingen moeten risico’s van het gebruik van bepaalde algoritmes in beeld hebben en maatregelen nemen om risico’s te verminderen. Omdat afdelingen veel vrijheid krijgen in risicobeheersing, is er weinig zicht of deze maatregelen effect hebben. De rekenkamer beveelt aan om de risicobeheersing te verbeteren, door de vrijblijvendheid te verminderen en medewerkers goed op te leiden.
Informatie naar de raad
De gemeenteraad wordt alleen op hoofdlijnen geïnformeerd over algoritmegebruik. Raadsleden zouden best wat meer specifieke informatie over algoritmes willen ontvangen en wat beter op de hoogte willen blijven. Daarnaast wordt er wordt weinig verantwoording afgelegd aan bijvoorbeeld het college van B&W, ziet de rekenkamer. De rekenkamer geeft als aanbevelingen mee om heldere indicatoren vast te stellen voor interne en externe verantwoording. De gemeentelijke organisatie moet afspraken maken met de gemeenteraad over de informatievoorziening over algoritmes.
Plaats als eerste een reactie
U moet ingelogd zijn om een reactie te kunnen plaatsen.