Cynthia Liem: ‘AI is een vaag containerbegrip’

De discussie over digitalisering gaat te veel alleen over technologie. Dat schrikt mensen af die je juist graag bij de discussie wil betrekken, waarschuwt Cynthia Liem, lector Responsible Digital Society bij Hogeschool Inholland. Bijvoorbeeld de mensen die de systemen uiteindelijk moeten gebruiken.

Eerst een gesprek over koken

‘AI is als een airfryer. Superhandig, maar echt niet bedoeld om al je eten in te bereiden.’ Cynthia Liem houdt wel van een metafoor op z’n tijd. Sinds september is ze lector Responsible Digital Society bij Hogeschool Inholland, waar ze volgens het persbericht ‘streeft ze naar een kritische, holistische kijk op digitale technologie met de burger als middelpunt’. Concreet probeert ze meer mensen te betrekken bij de discussie over digitale technologie, en dan met name de mensen die normaal gesproken minder aan bod komen, zoals minderheden. Dat bereik je soms makkelijker door over koken te beginnen dan over algoritmes.
Zo zat ze in een buurthuis in de Haagse Schilderswijk met een groep moeders om met hen te praten over het toeslagenschandaal. ‘Het werkt beter om eerst te levellen, voordat je verzandt in een droge beleidsdiscussie die je uiteindelijk óók moet voeren.’

Op zich kun je het prima aan Liem overlaten om een ‘droge beleidsdiscussie’ te voeren, of een technisch gesprek over de werking van AI. Naast lector is ze universitair hoofddocent in verantwoorde en betrouwbare AI aan de TU Delft, waar ze ook promoveerde. Als student liep ze meermaals stage bij Google in Californië. In de loop der jaren is haar focus steeds meer komen te liggen op de maatschappelijke impact van technologie. ‘Ik zie behoorlijke gaten tussen wat mensen dachten dat digitale technologie kon doen en wat het realistisch gezien kan doen. Ik werkte graag aan algoritmische en technische innovaties, maar het voelde steeds vaker te beperkt. Soms kom je verder met oudere, simpelere technische oplossingen, of zelfs met een gesprek en beter begrip tussen mensen.’

Alles volgens afspraak, dus waar gaat het mis?

Van digitalisering wordt vaak gedacht dat het iets vervangt dat je toch al deed, maar dan beter en sneller. Dat er ook ingrijpende veranderingen uit kunnen ontstaan, drong eens te meer tot haar door toen ze samen met een journalist werkte aan een reconstructie van het toeslagenschandaal. ‘Je ziet dat iedereen precies volgens afspraak uitvoert wat bedacht is dat goed zou zijn, maar dat niet wordt nagedacht over menselijke controle op het geheel. Waar gaat het dan mis? Wat betekent het voor aandacht van mensen als je opschaalt? Die vraag is vandaag de dag extra relevant, nu generatieve AI overal in lijkt te moeten.’

Bij de hogeschool hoopt ze de aansluiting met maatschappelijke impact makkelijker te vinden dan bij de universiteit, die wat meer vanuit vaste disciplines werkt. Binnen de faculteit van de hogeschool is veel aandacht voor transitiedenken en interdisciplinaire samenwerking. Bij welke overheidsorganisaties ze haar onderzoek gaat doen, ligt nog open. In ieder geval hoopt ze er nuanceringen in het gesprek over AI aan te brengen.

Vaag containerbegrip

Iemand die iets wil met AI, kan het in haar ervaring over duizend verschillende dingen hebben. Daardoor praten mensen makkelijk langs elkaar heen. ‘AI is een vaag containerbegrip waar iedereen van alles en nog wat tegelijk op projecteert. Het valt me op dat die discussies vaak veel te hoog over plaatsvinden en vervolgens dan weer heel operationeel worden geïmplementeerd. Daartussen zit helemaal geen visie.’

Het AI-bewustzijn van overheden moet beter. Daarmee bedoelt ze nadrukkelijk niet dat er in simpele taal wordt uitgelegd hoe generatieve AI werkt. Het gaat veel meer over vraagarticulatie, het kunnen verwoorden wat het probleem is voordat je naar AI als oplossing grijpt. ‘Als een manager zegt “we moeten iets met AI” en ik vraag waarom, dan komt het antwoord vaak neer op “iedereen doet het”. Ja, sorry, dat vind ik als academicus geen integer argument. Als ik doorvraag, dan zeggen mensen dingen als “alles is vastgelopen, hopelijk helpt dit ons eruit, we kunnen het niet beheersen, we hebben te weinig mensen”. Maar die verschillende redenen zijn verschillende soorten problemen met verschillende oplossingen. Als je niet voldoende articuleert wat je probleem is, krijg je een oplossing die niet past op je eigen vraagstuk.’

Beter luisteren naar eindgebruikers

Het ontbreekt organisaties nu bovendien vaak aan evaluatiecriteria, waardoor achteraf niemand echt kan zeggen of een pilot met een AI-tool heeft gewerkt. Of er is alleen nagedacht over de business case, maar niet over de mensen wiens werk verandert door technologie. ‘De eindgebruikers hebben dus vaak weinig inspraak’, concludeert Liem. ‘En als ze het wel hebben, zijn ze verlegen om het woord te nemen, vanuit de gedachte “sorry, ik ben niet technisch”. Maar als je technologie goed wil inrichten, moet je juist ook de geluiden van dat soort gebruikers meenemen.’

Nooit sorry zeggen dus, als je toevallig het verschil tussen een LLM en een GPT niet kent. ‘Technologie wordt ervaren als moeilijk, nerdy en wiskundig. Ik zie te veel partijen zichzelf uit die discussies censureren. Eindgebruikers hebben aanmoediging nodig om vanuit hun expertise bij te dragen. En technologen moeten leren om daar goed naar te luisteren.’

Gesprek over wat we níet efficiënt willen houden

Voor welke maatschappelijke toepassingen zetten we de airfryer, AI, momenteel te gemakkelijk in? ‘Dan denk ik toch aan de gretige adoptie van chatbots. Natuurlijk klinkt je tekst dan sneller goed. Natuurlijk kan het je helpen creatiever te worden. Maar ik ben wel bezorgd dat het zo frictieloos is. Als we er te vaak naar grijpen, worden we gaandeweg steeds afhankelijker.’

Wat verdwijnt er als een ambtenaar lange mails laat opstellen door Copilot en de andere ambtenaar die mails weer laat beantwoorden door Copilot? Is er dan überhaupt nog eens mens nodig in de communicatie? In bredere zin is het volgens haar belangrijk om te kaderen wat je als overheid misschien níet efficiënt wil houden, ook al heb je als ambitie om slagvaardiger te opereren. ‘In een corporate wereld betekent meer efficiëntie vaak ontslag of goedkopere compensatie, maar in een publieke wereld kan je daar wel degelijk een discussie over voeren. Waar willen we onze mensen en hun kunde behouden? Zo’n gesprek kost tijd, het kost frictie, het is niet efficiënt. Maar als je dat gesprek niet hebt gevoerd, dan heb je later meer te repareren als het misgaat.’

Dit is een ingekort versie. Lees het volledige artikel in Binnenlands Bestuur 18 (inlog).