‘Dataverzameling bedreigt ook digitale vrijheid’

Inbreuk op individuele privacy is het meest gehoorde argument, maar grootschalige dataverzameling kan ook de democratische waarden eroderen. Dat betogen Maaike Harbers (lector Kunstmatige intelligentie & samenleving aan de Hogeschool Rotterdam) en Ivonne Jansen-Dings (strategisch adviseur Technologie en samenleving bij de provincie Zuid-Holland) op iBestuur. Raads- en statenleden zijn volgens de auteurs in de ideale positie om de kwesties aan de kaak te stellen.

Profielen
‘Er is meer af te leiden uit gecombineerde data dan je op het eerste gezicht zou denken’, schrijven de auteurs. Uit de manier waarop een werknemer de muis over een beeldscherm beweegt, kunnen algoritmen bijvoorbeeld informatie halen over hoe gevoelig die werknemer is voor stress en burn-outs. De gebruikersprofielen die met dergelijke informatie opgesteld kunnen worden, zijn het eigendom van de bedrijven die die profielen maken. ‘Precies daar ligt het ook het risico voor gemeenten en provincies.’

Aannames
In Zuid-Holland wordt volgens de auteurs weinig data gebruikt die tot personen te herleiden is, maar er wordt wel beleid ontwikkeld op basis van data over natuurgebieden, energieverbruik en afvalstromen. De algoritmen gebruiken deze data en doen aannames die de leefwereld van burgers raken. ‘En naarmate het gebruik van data toeneemt, wordt het effect van deze aannames groter.’

Toenemende mate
Raads- en statenleden zijn volgens de auteurs in de ideale positie om ‘de onbedoelde en ongewenste neveneffecten van grootschalige dataverzameling’ aan de kaak te stellen en geven vijf simpele vragen die ze kunnen stellen. De eerste is: ‘Worden burgers in toenemende mate gevolgd door een ontwikkeling?’ Er worden digitale oplossingen voor de crisis beloofd, die bijvoorbeeld gebruikmaken van bluetooth of GPS, maar hier overhaast instappen kan problemen opleveren.

Regionale invloed
‘Versterkt de ontwikkeling de waardenketen in de stad, regio of land?’ Grote platformen hebben veel regionale invloed, maar ze verzwakken de positie van individuele ondernemers en tussenpersonen. ‘Wanneer overheden investeren in platformen is het daarom belangrijk om altijd de gevolgen van investeringen in de gehele keten te bezien.’

Privaat bezit
‘Worden maatschappelijke functies overgenomen door het bedrijfsleven?’ Burgers proberen elkaar tijdens de crisis op verschillende manieren helpen. Maar door investeringen van de overheid kunnen data en algoritmen die ontstaan door deze activiteiten privaat bezit worden, terwijl ze van waarde zijn voor de hele samenleving. Hier moet volgens Harbers en Jansen-Dings de balans bewaakt worden.

Afhankelijkheid afbouwen
‘Worden we afhankelijk van een leverancier?’ Ook overheden schakelden na het begin van de crisis snel over op thuiswerken en de investeringen die dit mogelijk maakten, hebben voorkomen dat de schade nog groter was. ‘Deze noodsituatie legt echter ook de afhankelijkheid ten aanzien van een kleine hoeveelheid leveranciers bloot.’ Het is volgens de auteurs belangrijk om deze afhankelijkheid af te bouwen.

Lessen toepassen
Tot slot: ‘Weten we welke blinde vlekken er in gebruikte data of algoritmen zitten?’ Inmiddels is duidelijk dat het fraudesysteem SyRI (Systeem Risico Indicatie) onvoldoende controleerbaar is. Maar waar speelt die problematiek nog meer? ‘Hoe vertalen de inzichten van SyRi zich in verkeersregelinstallaties of recruitment software? … De vraag is hoe wij hiervan kunnen leren en hoe we die lessen in de praktijk toe gaan passen.’