Privacybescherming schiet tekort bij twee algoritmes

Als onderdeel van het Verantwoordingsonderzoek 2024 onderzocht de Algemene Rekenkamer drie risicomodellen van de overheid, computermodellen die speuren naar fraude en andere afwijkingen. Bij algoritmes van de Belastingdienst en Dienst Toeslagen stuitte de Rekenkamer op privacyproblemen. Het onderzochte algoritme van het UWV is grotendeels oké bevonden.

Toegevoegde waarde

Wordt er eens proactief een algoritme ingezet om mensen op te sporen die onder de wielen van de overheid dreigen te worden vermorzeld, is het weer niet goed. Het computermodel van Dienst Toeslagen zoekt mensen die veel kinderopvangtoeslag moeten terugbetalen ten opzichte van hun inkomen en die dus waarschijnlijk hulp kunnen gebruiken. Maar het systeem voldoet niet aan de privacywetgeving. Daarvoor waarschuwt de Algemene Rekenkamer in zijn jaarlijkse verantwoordingsonderzoek.

Het algoritme heeft volgens de Rekenkamer wel ‘grote toegevoegde waarde’. Tot nu toe zijn bijna 8000 ouders benaderd voor persoonlijke begeleiding. Daarvan komt 80 tot 90 procent voort uit het model. ‘Zonder het algoritme zou Dienst Toeslagen de extra persoonlijke begeleiding niet kunnen aanbieden,’ schrijft de Rekenkamer. ‘Dan zouden de financiële problemen van deze gezinnen wellicht nog groter kunnen worden.’

Systeem voldoet niet aan AVG

De keerzijde is dat het algoritme niet voldoet aan de privacywet AVG. Het gaat om een kwetsbare groep ouders wiens gegevens niet goed worden beschermd. Daarnaast maakt de Rekenkamer zich zorgen dat de informatie uit het begeleidingstraject door Dienst Toeslagen wordt gebruikt voor toezicht of fraudebescherming. Het is ook niet uitgesloten dat de ene groep meer of minder kans heeft om hulp aangeboden te krijgen dan de andere.

Fraude opsporen

Naast het risicomodel van Dienst Toeslagen controleerde de Algemene Rekenkamer ook een algoritme van de Belastingdienst en een algoritme van het UWV. Het algoritme van de Belastingdienst helpt zogeheten carrouselfraude op te sporen en heeft volgens de dienst al meer dan een half miljoen euro aan schade voorkomen. Maar de Rekenkamer stelt vast dat het algoritme niet aan de AVG voldoet en dat persoonsgegevens onvoldoende worden beschermd. Verder wordt de werking onvoldoende gevolgd, waardoor het minder kan gaan presteren zonder dat men dat merkt. De minister van Financiën herkent de bevindingen bij zowel de Dienst Toeslagen als de Belastingdienst en wil de algoritmen verbeteren.

Het algoritme van het UWV is grotendeels op orde. Het UWV maakt met een algoritme een inschatting van de kans dat een uitkeringsaanvrager verwijtbaar werkloos is, dus een baan is kwijtgeraakt door zijn of haar eigen schuld. Na de inschatting door het algoritme volgt een onderzoek. Het algoritme werkt goed:  het UWV kan drie keer effectiever verwijtbare werkloosheid signaleren dan met een willekeurige controle. Het UWV heeft veel gedaan om privacyrisico’s te voorkomen, stelt de Rekenkamer.