‘Keuring algoritmen door gemeente niet wenselijk’
VVD-kamerleden Jan Middendorp en Albert van den Bosch zijn niet te spreken over het Amsterdamse voornemen om algoritmen die de gemeente en andere instellingen in de stad gebruiken door te lichten op discriminerende of anderszins ongewenste resultaten. Middendorp en Van den Bosch hebben daarover inmiddels vragen gesteld aan staatssecretaris Raymond Knops (Binnenlandse Zaken, CDA).
VVD-kamerleden Jan Middendorp en Albert van den Bosch zijn niet te spreken over het Amsterdamse voornemen om algoritmen die de gemeente en andere instellingen in de stad gebruiken door te lichten op discriminerende of anderszins ongewenste resultaten. Middendorp en Van den Bosch hebben daarover inmiddels vragen gesteld aan staatssecretaris Raymond Knops (Binnenlandse Zaken, CDA).
Voorwaarde voor bedrijfsvergunning
Onlangs maakte Amsterdamse chief technology officer Ger Baron bekend dat hij accountants- en adviesbureau KPMG heeft ingeschakeld om elke app en website met betrekking tot de hoofdstad te laten onderzoeken. De gemeente wil op die manier paal en perk stellen aan ongewenste effecten van kunstmatige intelligentie, waaronder discriminatie. In een interview met het Financieele Dagblad opperde Baron dat een algoritme-screening in de toekomst een voorwaarde kan worden voor een Amsterdamse bedrijfsvergunning, hoewel hij nog niet kon zeggen hoe apps en websites van private partijen worden doorgelicht.
Grenzen tussen taken
Middendorp en Van den Bosch noemen het Amsterdamse poging om het gebruik van algoritmen te reguleren en bedrijven eventueel te weren ‘niet wenselijk’ en willen van Knops weten wat hij ervan vindt dat de gemeente ook niet-gemeentelijke instellingen beoordeelt. Ook vragen zij Knops naar zijn standpunt over gemeenten die eigen actieplannen voor de digitale overheid ontwikkelen, en vragen zij of het ministerie van Binnenlandse Zaken hierin actief grenzen trekt tussen de taken van gemeenten, provincies en rijksoverheid.
Grondslag
Knops moet de VVD’ers ook aangeven of er bij zijn kennis meer gemeenten zijn met plannen als de Amsterdamse. Zij willen ook weten of er voor dergelijke plannen een wettelijke grondslag bestaat en of de taak om algoritmen te controleren bij de gemeenten ligt, als er een grondslag voor is. Tot slot vragen Middendorp en Van den Bosch de staatssecretaris om uiteen te zetten hoe de rijksoverheid gemeenten ondersteunt bij de omgang met algoritmen.
Reacties: 3
U moet ingelogd zijn om een reactie te kunnen plaatsen.
Inherent aan AI-systemen en algoritmen is immers dat - bij bouw op basis van casussen uit het verleden - ingeslopen fouten en bias 1:1 worden overgenomen.
Dat is genoegzaam bekend, ook uit onderzoeksrapporten.
Naar verwachting zal het KPMG-rapport hier op ingaan. Zo ook op een mogelijke bestuurlijke correctie van de resultaten van hetgeen in principe een beslissingsondersteunend systeem dient te zijn.
Wordt in het systeem danwel in de evt. bestuurlijke correctie een afwijking naar links of naar rechts geconstateerd dan is het vroeg genoeg voor Middendorp en van den Bosch om stelling te betrekken.