Algoritmes rijk voldoen niet aan basisvereisten

De algoritmes die de overheid gebruikt voldoen lang niet altijd aan de basisvereisten, blijkt uit een onderzoek dat de Algemene Rekenkamer woensdag in het kader van Verantwoordingsdag heeft uitgebracht. Van de negen door de Rekenkamer getoetste algoritmes bleken er zes niet aan de meest essentiële eisen te voldoen.

Risico’s

Algoritmes zijn niet meer weg te denken uit het rijksbeleid. Met behulp van algoritmes worden per maand miljoenen handelingen verricht, problemen opgelost en voorspellingen gedaan. Ze kunnen helpen bij het opsporen van misbruik van sociale voorzieningen, bij afhandelen van pgb-aanvragen, bij controleren van identiteiten, bij het voorspellen van criminaliteit of bij het bepalen van rechtmatigheid voor coronasteun. Dit is echter niet zonder risico’s, zoals duidelijk is gebleken bij de toeslagenaffaire.

Vooringenomen

Een verantwoorde inzet van algoritmes door uitvoeringsorganisaties van de rijksoverheid is mogelijk, stelt de Algemene Rekenkamer, maar in de praktijk niet altijd het geval. De Rekenkamer heeft bij drie algoritmes vastgesteld dat deze voldoen aan alle basisvereisten. Bij zes andere bestaan uiteenlopende risico’s: gebrekkige controle op prestaties of effecten, vooringenomenheid, datalek of ongeautoriseerde toegang.

Bij het criminaliteitsanticipatiesysteem van de politie ontbreekt onder meer controle op mogelijke vooringenomenheid

Discriminatie

Het zijn vooral de algoritmes die gebruikt worden door de politie, het directoraat-generaal Migratie van het Ministerie van Justitie en Veiligheid en de Rijksdienst voor Identiteitsgegevens die niet voldoen aan de basisvereisten. De laatste twee besteden de ontwikkeling en het beheer ervan uit, maar er zijn geen afspraken wie waarvoor aanspreekbaar is. Dat heeft bijvoorbeeld tot gevolg dat de Rijksdienst voor Identiteitsgegevens niet zelf kan nagaan of het algoritme de kwaliteit van pasfoto’s juist vaststelt. Dit kan discriminatie in de hand werken. Deze rijksdienst voert ook geen effectbeoordeling uit op gegevensbescherming. Bij het criminaliteitsanticipatiesysteem van de politie ontbreekt onder meer controle op mogelijke vooringenomenheid. Dit algoritme voorspelt waar het risico op incidenten hoog is.

Ongeautoriseerde toegang

Bij zes van negen onderzochte organisaties is niet duidelijk welke medewerkers toegang hebben tot de data en het algoritme. Ongeautoriseerde toegang tot systemen kan tot beschadiging of verlies van data leiden, met soms grote gevolgen voor burgers of bedrijven. Staatssecretaris van digitalisering Alexandra Van Huffelen heeft laten weten met de uitvoeringsorganisaties aan de slag te gaan om de tekortkomingen aan te pakken. Zij wil de Tweede Kamer voor het zomerreces informeren over vervolgstappen.