Een taalmodel is niet verkiesbaar

Auteurs kennisbijdrage: Lucyenne van de Coevering en Marieke Oprel – adviseurs AI & digitalisering bij Necker.

Gemeenteraden omarmen gretig kunstmatige intelligentie. Begrijpelijk. Maar wie bewaakt de democratische waarden als algoritmes meeschrijven aan raadsbesluiten? Het is al dagelijkse praktijk: raadsleden die een motie opstellen met ChatGPT, griffiers die met AI raadsstukken doorzoekbaar maken, colleges die algoritmes betrekken bij beleidsanalyse. De technologie is er. De toepassingen groeien snel. De reflectie blijft achter.

Dat is een probleem. Niet omdat AI per definitie slecht is voor de democratie, maar omdat democratie in de kern een systeem van informatie-uitwisseling is. Wie weet wat op welk moment, en op basis waarvan worden besluiten genomen? Als AI die informatiestromen beïnvloedt, raken we niet de rand maar het hart van het democratisch samenspel.

Navolgbaarheid in het geding

Neem de navolgbaarheid van besluitvorming, één van de meest elementaire eisen aan een democratische rechtsstaat. Raadsleden, journalisten en geïnteresseerde burgers moeten kunnen reconstrueren hoe een besluit tot stand is gekomen. Maar als raadsvoorstellen worden opgesteld met behulp van taalmodellen, wordt die reconstructie lastiger. Welke bronnen heeft het model geraadpleegd? Klopt de juridische argumentatie? Is de beleidsinformatie correct geïnterpreteerd? AI-systemen zijn niet transparant over hun redeneerprocessen. Een raadslid dat een antwoord ontvangt op een raadsvraag, kan niet zomaar nagaan of de informatie daarin klopt. AI maakt dat structureel complexer.

Of neem de praktijk van AI-gegenereerde amendementen. Als een raadslid een amendement laat opstellen door een taalmodel kunnen er juridische fouten insluipen die pas bij uitvoering aan het licht komen, of erger, die het besluit onuitvoerbaar maken. Om dergelijke fouten te herkennen is specialistische kennis nodig die lang niet altijd aanwezig is in een gemeenteraad. AI gebruiken bij het schrijven van een motie is iets anders dan AI de motie laten schrijven. Dat onderscheid klinkt subtiel, maar is belangrijk. Democratische integriteit begint bij de vraag wie het heeft geformuleerd en op grond van welke overwegingen.

Wie bepaalt wat de politieke keuzes zijn?

Het meest fundamentele risico is echter politieker van aard. Democratie is een systeem van verantwoording en legitimiteit, gebaseerd op de gedachte dat burgers worden vertegenwoordigd door aanspreekbare, gekozen mensen. Technisch is het mogelijk om met AI de sentimenten van inwoners te analyseren, patronen te herkennen en beleidsopties te genereren. Maar wie bepaalt dan nog de politieke keuzes? En wie roep je ter verantwoording als het fout gaat? Een goed geprompt taalmodel is niet verkiesbaar. Het kan geen rekenschap afleggen. Het draagt geen politieke verantwoordelijkheid.

De vraag die iedere raad zichzelf zou moeten stellen is simpel en ongemakkelijk: bepalen wij nog zelf de politieke keuzes, of laten we het model bepalen?

Integraal beleidskader onmisbaar

Wat nodig is, is geen technofobie maar discipline. Heldere spelregels over wanneer en hoe AI mag worden ingezet, bij bijvoorbeeld debatbijdragen, beleidsadviezen, publieksgerichte communicatie. Algoritmische registers. Protocollen voor fouten die door automatisering zijn ontstaan. En bovenal een integraal beleidskader: hoe wil de raad omgaan met AI, welke waarden staan daarin centraal en hoe verhoudt dat zich tot de kernfunctie van de lokale democratie?

AI in het lokaal bestuur is geen technisch vraagstuk om aan de ICT-afdeling over te laten. Het is een politiek en democratisch vraagstuk dat op de agenda van de raad thuishoort. Gemeenteraden die daarover nadenken, doen niet alleen “digitale hygiëne”. Ze bewaken hun eigen bestaansrecht.