Mensenrechten en algoritmen: worsteling voor gemeente

Gemeenten zijn zoekende als het gaat om het waarborgen van mensenrechten bij de inzet van algoritmen. Ze willen wel, concludeert het College voor de Rechten van de Mens (CRM) op basis van onderzoek, maar ze vertrouwen voor rechtsbescherming op de bestaande procedures en treffen geen speciale voorzieningen. Ambtenaren hebben bovendien niet altijd door wanneer een proces algoritmes gebruikt.

Geen dagelijkse realiteit

Er zijn drie factoren die ervoor zorgen dat het ideaal van de lokale, autonome gemeente die rekening houdt met mensenrechten ‘geen dagelijkse realiteit is’, schrijft het CRM. Namelijk het gebruik van dezelfde softwarepakketten, de globalisering van technische toepassingen en een bestuurlijke factor: de ‘bestuurlijke spaghetti’.

 

Verantwoordelijk

Veel gemeenten gebruiken voor vergelijkbare taken softwarepakketten die door bedrijven zijn ontworpen. Dat leidt tot standaardisatie. Het betekent ook dat, hoewel het gemeentebestuur verantwoordelijk is, deze bedrijven de tekst van de wet interpreteren. ‘Het is daarmee lastig vast te stellen hoeveel lokaal beleid toe te voegen is aan deze software en hoe de mensenrechten geborgd zijn.’

 

Europese waarden

Wereldwijd gebruikte technologische toepassingen zoals slimme camera’s lijken zeer aantrekkelijk vanwege de prijs-kwaliteitverhouding. ‘Maar er zijn apparaten en bijbehorende systemen op de markt die niet met de Europese waarden in het achterhoofd zijn ontworpen. Het is dan vaak ook niet mogelijk om dit als gemeente bijgestuurd te krijgen.’

 

Spaghetti

En er zijn veel samenwerkingsverbanden (ruim 1300, bleek begin april) waardoor niet altijd helder is welk orgaan verantwoordelijk is. Ook dat kan slecht zijn voor de naleving van de mensenrechten. ‘Deze ‘bestuurlijke spaghetti’ maakt heldere besluiten over de inzet van technologie en het afleggen van verantwoording daarover, extra moeilijk.’

 

Scheidslijnen binnen gemeenten

De onderzoekers (van Hooghiemstra & Partners, die een literatuurstudie verrichten en functionarissen van twaalf gemeenten interviewden) zagen binnen gemeenten twee organisatorische scheidslijnen 'die kunnen leiden tot geïsoleerd denken: een tussen beleid en uitvoering en een tussen datagedreven werk en informatievoorziening (‘traditionele IT’, de mensen die zorgen dat de computers werken)'.

 

Algoritmes niet zien

Het viel de onderzoekers ook op dat sommige gemeenten aangaven geen algoritmen te gebruiken. ‘Ambtenaren denken dan dat algoritmen altijd lerende algoritmen zijn en vergeten dat er ook minder complexe als-dan algoritmen in de softwarepakketten zitten die zij gebruiken.’ Ook zagen ambtenaren sommige processen niet als algoritmische processen, terwijl er waarschijnlijk wel algoritmes voor worden gebruikt, zoals online monitoring, regelingen rond belastingkwijtschelding en het berekenen van uitkeringen.

 

Worsteling

Het valt het CRM op dat gemeenten ‘zich door de toeslagenaffaire meer bewust zijn van risico’s die datagedreven werk met zich meebrengt op het gebied van discriminatie’. Gemeenten 'worstelen' volgens het CRM met mensenrechten bij de inzet van algoritmen, maar ze zijn welwillend’. Ze willen praktische ondersteuning bij afwegingen, maar gebruiken de mogelijkheid om samen met marktpartijen meer te doen nog weinig.

 

Toegankelijkheid gemeentewebsites

Om het onderwerp gemeenten en gelijke behandeling te illustreren, zette het CRM op een rij (met behulp van de website van Logius) hoe het ervoor staat met de toegankelijkheid van de websites van de onderzochte gemeenten. ‘Hieruit kan worden opgemaakt dat er in ieder geval op dit terrein nog werk is te verrichten voor de meeste onderzochte gemeenten.’

Almere	B – voldoet gedeeltelijk
Amsterdam	A – voldoet volledig
Apeldoorn	B – voldoet gedeeltelijk
Assen	B – voldoet gedeeltelijk
Den Haag	C – eerste maatregelen genomen
Eindhoven	A – voldoet volledig
Enschede	B – voldoet gedeeltelijk
Gemeenschappelijke regelingen De Bevelanden	D – voldoet niet
Groningen	B – voldoet gedeeltelijk
Leudal	B – voldoet gedeeltelijk
Súdwest Fryslân	B – voldoet gedeeltelijk
Utrecht	D – voldoet niet

Bron: College voor de Rechten van de Mens. Onderzoeksdatum 3 mei 2021

 

Onderhandelen met marktpartijen

Volgens de onderzoekers kan de gezamenlijke inkoop van software ervoor zorgen dat gemeenten meer eisen kunnen stellen en zo grip kunnen krijgen op algoritmen. Ze sporen ambtenaren aan om met ontwikkelaars om de tafel te gaan zitten en kijken hoe ze mensenrechten zeker kunnen stellen.