of 59130 LinkedIn

'Algoritmes kunnen grondrechten flink aantasten'

Big Data, Internet of Things en kunstmatige intelligentie kunnen de grondrechten van burgers flink aantasten. Dat schrijven onderzoekers van Universiteit Utrecht in het rapport ‘Algoritmes en grondrechten’, dat in opdracht van het Ministerie van Binnenlandse Zaken werd opgesteld.

Big Data, Internet of Things en kunstmatige intelligentie kunnen de grondrechten van burgers flink aantasten. Dat schrijven onderzoekers van Universiteit Utrecht in het rapport ‘Algoritmes en grondrechten’, dat in opdracht van het Ministerie van Binnenlandse Zaken werd opgesteld.

Samenspel van verschillende grondrechten

De onderzoekers hebben diverse ‘knelpunten’ geïdentificeerd voor de grondrechten van burgers. Er zijn al eerder rapporten gepubliceerd over nadelige effecten van digitalisering door gebruik van data, internet en kunstmatige intelligentie voor grondrechten. Deze rapporteren waren echter niet specifiek op de rechten in Nederland gericht. De onderzoekers stellen dat het lastig is om te bepalen welke grondrechten het sterkst worden aangetast door nieuwe technologie. Er is sprake van een ‘samenspel’ tussen grondrechten dat door de toenemende rol van algoritmes in diverse maatschappelijke domeinen wordt beïnvloed. Het samenspel tussen grondrechten is er nu ook al: een recht als godsdienstvrijheid hangt bijvoorbeeld nauw samen met privacy. Het Kiesrecht heeft ongeveer dezelfde verhouding met de vrijheid van meningsuiting en het recht op informatie. Wanneer een grondrecht wordt beïnvloed, heeft dit vaak gevolgen voor andere grondrechten.    

 

Privacy en gelijke behandeling
Nieuwe technologieën hebben op alle grondrechten invloed. ‘Hooguit kunnen sommige van de benoemde knelpunten vanuit grondrechtelijk oogpunt worden beschouwd als minder urgent. Dat geldt bijvoorbeeld voor de bezwaren gerelateerd aan de-individualisering en aantasting van de individuele autonomie’, zo schrijven de onderzoekers. Ze verwijzen onder meer naar 'filterbubbels' en inperking van de mogelijkheid om autonoom te denken en te handelen door informatie die door algoritmen wordt geselecteerd. Meer urgente knelpunten zijn vooral te vinden rondom privacyrecht, als gevolg van surveillance met behulp van algoritme-gedreven technologie. Urgentie rondom privacyvraagstukken is er altijd geweest, ook toen telefonie werd geïntroduceerd en het mogelijk werd om iemand af te tappen, schrijven de onderzoekers. Maar dit is anders voor de gevonden knelpunten bij gelijkebehandelingsrechten en procedurele rechten, stellen de onderzoekers. Het gaat om besluiten nemen met behulp van slimme algoritmes, waarbij deze ondoorzichtig en potentieel niet-neutraal zijn. Er kunnen door besluiten nemen op basis van algoritmes problemen komen met het recht op gelijke behandeling. Wanneer algoritme-gedreven technologieën worden ingezet is er risico op ongerechtvaardigde of ongelijke behandeling. De effecten hiervan komen vervolgens weer terug bij andere grondrechten.

 

Neutrale en transparante algoritmes
De vraag naar aanleiding van de knelpunten is volgens de onderzoekers hoe bijgedragen kan worden aan het vergroten van de neutraliteit en transparantie van algoritmes. Ook moet er een antwoord komen op de vraag hoe effectiviteit van het recht op gelijke behandeling en procedurele rechten kan worden gewaarborgd als er met biases en ondoorzichtige algoritmes wordt gewerkt. Er is een combinatie van technologische en juridische oplossingen nodig, vinden de onderzoekers. 

Verstuur dit artikel naar Google+

Gerelateerde artikelen

Reageer op dit artikel
















Even geduld a.u.b.

Reactie op dit bericht

Door Antony Hulshoff (Privacy Officer) op
Of zoals Cathy O'Neil het zo mooi verwoordt: 'Algorithms are opinions embedded in code'
Door Martin Pot (interieurarchtect/researcher/schrijver) op
eens met Toine G. t.a.v anomalie; de onderzoekers concluderen dat o.a. IoT een grote impact heeft op, in dit geval art.12 Gw, (privacy en wonen) maar geven geen richting v.w.b. de consequenties. Hoe privacy te garanderen als onze (private) omgeving een hybride wordt? Kort door de bocht: of pas de wet aan, of bouw anders....
Door Toine Goossens (Toezichthouder gedrag en moraal) op
Dit zou de overheid veel vaker moeten doen.

Alle grote en fundamentele technische veranderingen leiden tot verandering van de omstandigheden in het leefdomein.

Zo hebben massamobiliteit en massacommunicatie tot enorme economische groei geleid, maar tegelijk zijn de referentiekaders voor gedrag fundamenteel aangetast met alle gevolgen van dien.

Het is opmerkelijk dat ministeries vaak wel de juridische gevolgen van veranderingen ex ante of ex post evalueren en de gedragsveranderingen die de bron van de juridische gevolgen zijn, juist niet. Dat is een anomalie.

De kundigheden van de sociale wetenschap leggen het hierbij af tegen die van de juridische wetenschap. Wet- en regelgeving is gedragssturend. Waarom blijven de diverse sociale wetenschappers ieder in hun eigen vakbubbel zitten en maken zij geen fundamentele stappen om politici en bestuurders te laten zien hoe veranderingen van omstandigheden tot gedragsverandering leiden.
Door Wouter op
Erg interessant en belangrijk onderzoek. Dit gaat over fundamentele risico's waar overheden en bedrijven zich rekenschap van moeten geven. Technologische ontwikkeling wordt (te) vaak blindelings gelijkgesteld aan vooruitgang, waarbij dit soort risico's totaal over het hoofd gezien worden.