De Autoriteit Persoonsgegevens (AP) waarschuwt dat de ‘datahonger van de overheid’ blijft aanhouden. Overheidsdiensten bleven vorig jaar doorgaan met het gebruik van ‘ondoordachte algoritmes’, staat in het jaarverslag van de organisatie. Ondanks de toeslagenaffaire, waarbij algoritmes ook een rol speelden, is er volgens de AP ‘bitter weinig veranderd’.
Kritiek AP op 'datahonger' overheid
Ondanks de toeslagenaffaire, waarbij algoritmes ook een rol speelden, is er volgens de AP ‘bitter weinig veranderd’.
Topje van de ijsberg
De instantie wijst onder meer op een discriminerend algoritme van de Dienst Uitvoering Onderwijs, een illegaal algoritme van het UWV om fraude met de WW op te sporen en het gebruik van gezichtsherkenning door de politie.
‘Dit is hoogstwaarschijnlijk nog maar het topje van de ijsberg’, stelt AP-voorzitter Aleid Wolfsen. ‘Natuurlijk kunnen algoritmes en kunstmatige intelligentie ons ook veel goeds opleveren. Zoals efficiëntere werkprocessen voor overheidsorganisaties. Maar als samenleving moeten we steeds heel alert zijn op de risico's van algoritmes, waaronder discriminatie. Zodat overheidsinstellingen niet opnieuw levens van mensen verwoesten en onze rechtsstaat en de bescherming van grondrechten overeind houden.’ De Autoriteit Persoonsgegevens is in Nederland de coördinerend toezichthouder op algoritmes en kunstmatige intelligentie.
Privacyschendingen
Het valt Wolfsen verder op dat dat de overheid steeds vaker private organisaties inschakelt om privacyschendingen te onderzoeken. ‘Terwijl de AP de aangewezen partij is om als onafhankelijke toezichthouder dit onderzoek te doen’, zegt hij. Volgens Wolfsen leidt deze gang van zaken ‘niet zelden tot onder meer dubbel werk, verspilling van belastinggeld en verwarring over het juiste toetsingskader’. Ook krijgen bedrijven op deze manier soms toegang tot ‘zeer gevoelige persoonlijke informatie’, aldus de voorzitter.
