'Meer aandacht voor ethiek nodig bij data-projecten'

Op steeds grotere schaal zetten gemeenten big data in als basis voor besluitvorming. Maar die informatie is vaak allesbehalve neutraal, stellen onderzoeker Mirko Tobias Schäfer en Kamerlid Kees Verhoeven (D66). 'Bestuurders letten vooral op de wetgeving, niet op de ethiek. Dat moet anders.'

Liegen met grafieken
Schäfer is projectleider van Utrecht Data School en docent-onderzoeker aan de Universiteit Utrecht houdt zich bezig met ethiek rondom data-analyse. Hij vindt het goed dat 'beslissingen op basis van verifieerbare feiten' worden genomen. Maar ziet tegelijk dat er door bestuurders geregeld misbruik wordt gemaakt van de schijnbare objectiviteit die een datavisualisatie biedt. Schäfer haalt een op Rijksoverheid.nl gepubliceerde infographic aan over de inmiddels aangenomen 'sleepwet'. De wet geeft de AIVD meer middelen om burgers online in de gaten te houden. In de infographic werd een verband gelegd tussen technologische ontwikkelingen en het aantal aanslagen. De makers suggereren dat het aantal aanslagen is toegenomen door de komst van YouTube, Facebook en een online game als World of Warcraft.  Schäfer: 'Dat zijn zogenaamde ‘spurious correlations’. Er wordt een causaal verband tussen dingen gesuggereerd die niets met elkaar te maken hebben. Als je in de visualisatie ook de jaren voor 1996 meeneemt, dan zie je dat de dreiging van aanslagen in de westerse landen juist sterk is afgenomen. En heeft World of Warcraft überhaupt iets met aanslagen te maken? Dat lijkt mij onzin. Enige uitleg wordt in deze infographic dan ook vermeden. Maar het verhaal illustreert hoe je met een visualisatie van data ineens 'bewijzen' kan creëren om het publiek te beïnvloeden.'

Onterechte conclusies

'Liegen' met data gebeurt niet altijd bewust. Kamerlid Kees Verhoeven (D66), IT-politicus van het jaar 2016, waarschuwt het kabinet al langer voor het gevaar van onterechte conclusies. 'We zijn allemaal mensen en ieder mens is weer een samenstelling uit  kenmerken die je kunt omzetten in data’, stelt Verhoeven. ‘We wonen ergens, we hebben bepaalde hobby's, we hebben een baan, een inkomen en een achtergrond. Als we datasets bouwen, verzamelen we niet de mensen maar altijd een beperkt deel van deze kenmerken. Een dataset is daardoor altijd selectief en een versimpeling van een persoon.'
Een combinatie van dergelijke datastromen kan ineens een onschuldig persoon verdacht maken. 'Iemand heeft volgens de data-analyse geen recht op een uitkering, of hij mag niet in een woning.  Maar data van burgers kunnen verouderd zijn. Ook een algoritme of bewerkingsmethode van de data kan de werkelijkheid geweld aandoen. En tot slot is er soms ook nog een commerciële prikkel aan verbonden om bepaalde uitkomsten daadwerkelijk te laten plaatsvinden.'

Commerciële belangen
Overheden en vastgoedbedrijven schakelen volgens Verhoeven vaak commerciële bedrijven in om data-analyse uit te voeren. Ook in de woonsector gebeurt dit geregeld. Data-analisten bekijken het verleden van potentiële huurders en melden aan de verhuurder of deze mensen overlast veroorzaken of misschien wanbetalers zijn. Verhoeven:  'Een marktpartij wil zichzelf natuurlijk een belangrijke rol geven voor de klant. Dat kan alleen met resultaten. Er moet zo nu en dan dus iemand in de categorie overlastveroorzakers worden geplaatst. Dan kan zo'n commercieel bedrijf uitleggen dat er door hun data nu geen overlast wordt veroorzaakt. Maar dit gaat over de rug van mensen die misschien wel helemaal geen overlast veroorzaken.'  Een ander voorbeeld van commerciële belangen achter data verzamelen zijn verzekeraars die het risico op schade willen inperken. 'Slecht gedrag zoals roken, te hard rijden en ongezond eten kun je laten bijhouden om je polis te verlagen. Maar zoiets wordt altijd ingevlogen vanuit het belang van de verzekeraar. 'Brave' mensen kunnen een lagere polis krijgen, maar ze betalen in feite met hun privacy.'

Bewustzijn
Er moet meer bewustzijn bij de overheid komen rondom het werken met data, vindt Schäfer. 'Bestuurders maken zich met data-toepassingen vooral druk over of ze wel aan de wetgeving voldoen. Bijna altijd gaat dat alleen over privacy en maar zelden over de complexe problemen erachter die de technologie kan creëren.' Naïef modernisme, noemt Schäfer dat. 'We zijn snel enthousiast over de mogelijkheden van nieuwe technologie. Dat we alles langs een juridische meetlat leggen is goed, maar wetgeving verandert. De technologie en ons gebruik ervan veranderen veel sneller dan de wet. Let ook op normen en waarden, op ethische kwesties waar nu nog geen wettelijke regels voor bestaan. ' Schäfer ontwikkelde met de Utrecht Data School de zogenaamde Data Ethics Decision Aid (DEDA). 'Het is een proces dat gebruikmaakt van kritische reflectie door de leden van een data-analyseteam een aantal vragen over hun project te laten beantwoorden. Op die manier komen veel van de ethische knelpunten boven tafel die anders over het hoofd worden gezien. Ambtenaren kunnen zo nadenken over essentiële zaken rondom data-projecten, zoals wie de verantwoordelijkheid draagt en wat eventuele privacy-risico's zijn, maar ook voor het bepalen van de doelmatigheid van het data-verzamelen en de wijze waarop de data gevisualiseerd wordt.’

Tweedeling bevolking
Ook Verhoeven vindt dat er beter mag worden nagedacht over het gebruik van data. Hij merkt dat werken met data-analyse ertoe kan leiden dat er een 'tweedeling' ontstaat in de bevolking. 'Als je één keer de fout ingaat, draag je dat gegeven voor eeuwig met je mee.  Iemand die als student een keer een paar schoenen niet op tijd heeft betaald,  moet door  de verhuurdersscreening daar misschien de rest van zijn leven de nadelen van ondervinden. Onbeduidende zaken uit het verleden kunnen ervoor zorgen dat jij als een risico wordt gezien voor verzekeraars of verhuurders.’ Zo kan volgens Verhoeven een tweedeling ontstaan. De ‘slechte’ mensen kunnen onmogelijk nog bij de goede groep komen.

Dit is een ingekorte versie. Lees het volledige verhaal in Binnenlands Bestuur nummer 6