Binnenlands Bestuur meldt met tromgeroffel dat gemeenten zich compleet gaan digitaliseren. Tijdens het VNG-congres klappen bestuurders collectief alsof ze net persoonlijk de cloud hebben uitgevonden. Regie op de Digitale Samenleving klinkt immers alsof gemeenten het licht hebben gezien. De toverwoorden zijn Artificiële Intelligentie en transformatie. Want wie wil er nu niet een sterke bestuurslaag en betere dienstverlening. Het klinkt veelbelovend, misschien wel té veelbelovend. Onder die damp van ambitie ligt de simpele vraag of ze wel weten waar ze mee bezig zijn.
Gemeenten in de ban van het algoritme
Artificiële Intelligentie is de nieuwe magie. Tot voor kort bestond de gemeentelijke IT uit saaie dingen, zoals databases en excelsheets.
Artificiële Intelligentie is de nieuwe magie. Tot voor kort bestond de gemeentelijke IT uit saaie dingen zoals databases, Excelsheets met foutcodes en functionele systeembeschrijvingen. Maar ineens gaat het over zelflerende systemen die patronen herkennen. Geen eenvoudige software die doet wat je erin stopt maar systemen die verbanden leggen op basis van gedrag, beelden, stemmen en zelfs gemoedstoestanden.
ChatGPT is nu de nieuwe beleidsmedewerker, voorspellende algoritmes bepalen de route van de vuilniswagen en de Chatbot beantwoordt alle vragen van vergunning tot uitkering.
In de commerciële wereld werkt dit prima. Bedrijven als Google, Meta en Amazon verdienen miljarden aan ons klikgedrag, sturen het vervolgens bij en verkopen het terug in de vorm van gepersonaliseerde advertenties. Het kan niet vaak genoeg worden herhaald. De overheid is geen techbedrijf maar dient te werken voor het publieke belang. En juist daar wringt het.
De Toeslagenaffaire blijft een bekend pijnlijk voorbeeld. Maar net zo fataal is de Amsterdamse 'Top600'-ProKidlijst waar jongeren door ‘vage indicatoren van verhoogd risico op criminaliteit’ op terecht zijn gekomen. Het bezit van een mes, een broer met een strafblad of een keer getuige van iets kon al voldoende zijn om bestempeld te worden tot crimineel. Het algoritme sprak en nu de jongeren intussen volwassen zijn gaat de achtervolging door tientallen instanties onverdroten door. En er is niemand die weet hoe deze Kafka-hel te stoppen.
Toch wordt gemeente breed Artificiële Intelligentie omarmd als oplossing voor bijna alles. Afdelingen ontdekken de voordelen van ChatGPT voor beleidsnotities, van chatbots voor inwonersvragen, en van voorspellende algoritmes voor verkeersstromen, handhaven en toezichthouden. Camera’s, sensoren en real-time data-analyse maken van de stad een digitale cockpit. Daarbij is allang zichtbaar dat het algoritmische sleepnet niet voor iedereen even goed uitpakt. Boeren kunnen wekenlang wegen blokkeren en trekkers als wapen inzetten. Maar klimaatprotesters mogen door gezichtsherkenning op audiëntie bij de politie. Zo is systeemcontrole onder het mom van veiligheid uitgegroeid tot repressie.
Het meest wrang is misschien wel hoe inzetten van Artificiële Intelligentie het gedrag van mensen verandert. Als het systeem bepaalt wat normaal is gaan mensen zich ernaar gedragen. Niemand wil immers opvallen. Afwijken is verdacht en wie verdacht is wordt geregistreerd. Het systeem leert immers en Chatbots kennen geen twijfel, geen ethiek en geen buikgevoel. Zelfs een kat heeft meer emotioneel begrip.
Natuurlijk lijkt digitalisering onvermijdelijk en dendert de Artificiële Intelligentie-trein door. En zo wordt een politieke afweging een kwestie van datascores. Maar technologie zonder moreel kompas is geen vooruitgang maar verdwaald beleid. De vraag is niet of gemeenten Artificiële Intelligentie gaan gebruiken. Het VNG-Congres bewijst dat de strijd al is gestreden. De vraag blijft op basis van welk kompas, met welke controle en wie de prijs betaalt voor de schade als het misgaat. Want dat een algoritme nooit sorry zegt is zeker.
Plaats als eerste een reactie
U moet ingelogd zijn om een reactie te kunnen plaatsen.