Bescherming tegen risico’s algoritmegebruik overheid

Overheid en burgers moeten zich bewust zijn van de risico’s van data-analyse. Daarom stelde het kabinet een aantal richtlijnen op voor het gebruik van algoritmes, zoals dat ze transparant en toetsbaar moeten zijn. Uiteindelijk wil het kabinet deze waarborgen in de wetgeving opnemen.

Risico's

‘Data-analyses geven ook risico’s’, schrijft minister Dekker (Rechtsbescherming, VVD) aan de Tweede Kamer over de ‘waarborgen tegen risico’s van data-analyses door de overheid’. Transparantie kan onvoldoende zijn, brongegevens kunnen fouten bevatten en de toenemende complexiteit maakt algoritmes steeds lastiger te doorgronden. Het vorige kabinet wilde daarom weten of de waarborgen tegen deze risico’s versterkt konden worden.

Naar wetgeving toe

Het gaat kunstmatige intelligentie en algoritmes volgens het kabinet om ‘transparantie, toetsbaarheid en rechtsbescherming’. Daarom zijn zeven richtlijnen geformuleerd, maar uiteindelijk wil het kabinet ‘toewerken naar waarborgen die in wetgeving worden opgenomen’.

Richtlijnen

Zo zijn er technische transparantie en uitlegbaarheid: de broncode en input moeten beschikbaar zijn en de uitkomsten uitlegbaar. De overheid moet consequenties kunnen uitleggen; er moeten strikte methoden gebruikt worden en tests gedaan worden voor validatie; alle betrokken partijen moeten zich bewust zijn van de risico’s, zoals discriminerende factoren die in het ontwerp zitten; de keuzes voor gegevens en parameters moeten worden beschreven; modellen, data, algoritmes, en beslissingen ‘met specifieke consequenties voor individuele burgers’ moeten vastgelegd worden zodat ze verifieerbaar zijn; ook moeten de methoden (gerechtelijk) kunnen worden getoetst.

Overheden

En ‘overheden zijn verantwoordelijk voor beslissingen die door hun gebruikte algoritmes worden gemaakt, ook als deze door derden zijn gemaakt, zelfs als deze niet in detail uitlegbaar zijn. Zij dienen daarover dan ook verantwoording te kunnen afleggen.’

Impact voor gemeenten

Er is met de Vereniging van Nederlandse Gemeenten (VNG) afgesproken dat de richtlijnen op gemeenten worden afgestemd. ‘In dat proces zal onder meer worden gekeken naar de uitvoerbaarheid van de richtlijnen en zal onder auspiciën van de VNG een impactanalyse voor gemeenten worden uitgevoerd.’