Concrete richtlijnen algoritmen

Om de transparantie over algoritmen voor inwoners te vergroten, probeert Amsterdam al in de afspraken met leveranciers bepaalde garanties vast te leggen. Het zijn beginstappen, maar het is goed mogelijk dat deze werkwijze uiteindelijk een standaard wordt. Er is interesse vanuit Breda en Rotterdam. 

Advocatenkantoor Pels Rijcken maakte een concept van contractvoorwaarden, iets dat een gemeente aan een leverancier kan voorleggen, en belanghebbenden van overheden en leveranciers konden er vorige week gaten in schieten. ‘De bijeenkomst gaf genoeg vertrouwen om verder te gaan’, zegt Linda van de Fliert, programmacoördinator Public Tech van de gemeente Amsterdam.

Vage richtlijnen
Er zijn verschillende richtlijnen voor algoritmen, maar die blijven doorgaans vaag en algemeen. Amsterdam wilde ze zo concreet mogelijk maken. In het conceptcontract betekent dat voor ‘uitlegbaarheid’ bijvoorbeeld dat een opdrachtnemer (de leverancier van een product) ervoor zorgt dat de gemeente alle benodigde informatie heeft om beslissingen aan een inwoner uit te leggen.

Tijdens de bijeenkomst uitte een leverancier zich bezorgd dat hij geacht zou worden om bedrijfsgeheimen zomaar openbaar te maken, maar dat is volgens Van de Fliert niet zo. ‘Dat zou alleen gebeuren in gevallen van rechtspraak.’ ‘We willen graag dat inwoners aan de bel kunnen trekken als er iets niet klopt en daarvoor hebben we nu niet de goeie middelen in handen. We kunnen de code openstellen, maar dat zegt niemand iets. Dit is een juridische manier om voor verantwoorde algoritmen te zorgen.’