Vapourware is de naam voor computersoftware waar marketing vóór productontwikkeling gaat. Het is aangekondigd, maar niet te koop. Er zijn mensen mee bezig, maar het is niet af. Af en toe is er een demo of een belofte dat de oplossing aanstaande zal zijn.
AI en overheid: uitvinden wat al is uitgevonden
Een kostbare manier om menselijkheid uit klantcontact weg te organiseren.
Bij vapourware hoort scepsis, vooral bij experts die weten dat aangekondigde beloften weinig te maken hebben met problemen in de realiteit. En dat bestaande oplossingen al prima voldoen. Zoals in het geval van publiekscommunicatie een toegankelijke overheidswebsite die mensen de weg wijst. Folders in een rek. Of opgeleide mensen aan de telefoon of balie. Soms is hier al flink op bezuinigd door dit mensenwerk in klantcontact als kostenpost te zien.
Verkoop van kostbare AI-tools lukt echter goed, want deze hebben schijn van productiviteit. Dit slaat aan bij management dat op uren moet sturen en bang is voor toekomstig personeelstekort. Het verkoopargument is dat de tools het ‘domme’ werk kunnen overnemen, zodat er ruimte ontstaat voor ‘waardevol’ werk. Daarbij bepalen de makers van technologie welk werk van waarde is en welk werk niet.
De makers van technologie bepalen welk werk van waarde is en welk werk niet.
De overheid noemt de vapourware-aanpak met AI-tools ‘innovatie’. Dit klinkt natuurlijk een stuk beter. Technologie wordt gezien als oplossing voor uitzoekwerk en daarmee zijn gesprekken met echte mensen in en buiten de organisatie ook niet meer nodig. Het gaat niet zozeer om betrouwbaarheid van de informatie en dienstverlening in het hier en nu.
Hier gaat het al snel mis. Want makers van technologie hebben zelden de benodigde domeinkennis om er iets productiefs van te maken en de waarde van mensenwerk te kunnen inschatten. Terwijl algemeen bekend zou moeten zijn dat mensen liever met mensen praten dan met een haperende machine. En dat betrouwbare software op menselijke informatie nu eenmaal moeilijk - zo niet onmogelijk - te maken is.
Zo ontdekt geen enkele machine samenhang in 20 soorten toeslagen, subsidies en regelingen, over allerlei organisaties verspreid - omdat die samenhang er simpelweg niet is. Een chatbot kan niet bellen met een collega om te vragen naar uitzonderingen. Een mens ziet wél wat niet klopt of ontbreekt. De denkende mens wint het van onwetende software.
Ondertussen zijn er steeds meer experimenten die neerkomen op ontdekken wat al bekend is. TNO publiceerde eind dit jaar een rapport met 81 verschillende AI-toepassingen. Vorig jaar waren het maar 8. Veel aandacht voor: meer tools, meer content, meer uitproberen. Nergens aandacht voor de mens die zich inmidddels met een haperende chatbot moet behelpen omdat de telefonie gedeeltelijk al is wegbezuinigd.
Het rapport biedt zo een kijkje in de keuken van experimenteren met publiek geld. Wat dus niet kan worden besteed aan: gesprekken aan de balie, steun in buurthuizen of bibliotheken. Dat is namelijk de plek waar je moet zijn als je vastloopt in contact met de ingewikkelde digitale overheid.
Die kostbare experimenten zijn niet neutraal. Want zo schuift de overheid de nadelen van foutieve informatievoorziening en het extra werk af op publiek, mede-ambtenaren en vrijwilligers. Gebruikers van een chatbot moeten namelijk zelf antwoorden checken, omdat de makers ook wel weten dat wat uit zo’n tool komt, lang niet altijd klopt. Collega-ambtenaren krijgen nog een taak erbij, namelijk het opschrijven van de goede antwoorden voor de chatbot. Dit is de heruitvinding van de kennisbank en webredactie.
Het is een gekke paradox, dure technologie promoten die alleen kan renderen op andermans werk dat ondertussen is wegbezuinigd.
Het is een gekke paradox, dure technologie promoten die alleen kan renderen op andermans werk dat ondertussen is wegbezuinigd. In al die experimenten, zijn keurig bijgehouden digitale bronnen zoals websites en archieven immers de benodigde brandstof. Maar als geld voor beheer van die input verdampt is, omdat het naar experimenten gaat, dan kunnen die experimenten helemaal niets meer opleveren. Behalve het advies om een denkend mens de output van AI-tools te laten controleren, en dit werk dan ‘human in the loop’ te noemen.
Publieke dienstverlening is waardevol mensenwerk. Daar vallen gaten als je de mens uit het oog verliest met gedachteloze automatisering.
Onze zorg als onderzoekers is dat steeds meer tijd en publiek geld gaat naar nutteloze technologie en ongereguleerde experimenten. In plaats van het geld te besteden aan dienstverlening waarvan we weten dat het aantoonbaar werkt, met bovendien een veel lager energieverbruik: een betrokken professional aan de balie, buurthuis of bibliotheek.
‘AI’ is niet intelligent. Het houdt ons mensen alleen maar af van het echte werk dat ons menselijk maakt.
Jules Ernst is online specialist en onderzoeker op het gebied van digitale toegankelijkheid. Wiep Hamstra is expert op het gebied van overheidscommunicatie en -dienstverlening. Samen doen ze onderzoek naar de kwaliteit van gemeentelijke chatbots.
Plaats als eerste een reactie
U moet ingelogd zijn om een reactie te kunnen plaatsen.