Ontwikkelingen in AI gaan razendsnel. Ook in het publieke domein. Bijna alle beleidsnotities beginnen inmiddels met deze stelling of iets in die strekking. Een cliché, is het waar? Of is snelheid eerder de perceptie van de schrijver die het zelf niet kan volgen? Of is het omgekeerd en geeft het status om te zeggen: het gaat snel, kijk mij het eens lekker bijbenen?
Slow down, fix things
Ga niet overhaast te werk en eis van een ander geen versnelling als het op technologie aankomt.
Als je bij een spoorwegovergang staat, gaat de trein razendsnel. Maar als je uitzoomt, kun je zien waar de trein vandaan komt en over welk spoor en in welke richting. Dan gaat het al minder razendsnel.
De ontwikkelingen in AI gaan niet razendsnel, we staan er nu ineens met onze neus bovenop en de marketing wil ons die FOMO laten voelen om zonder nadenken in te stappen.
De marketing wil ons die FOMO laten voelen om zonder nadenken in te stappen.
Het haakje van gejaagheid is er al, want het sluit naadloos aan op het heilige mantra van Mark Zuckerberg van Meta: Move fast, break things. Zijn marketingsaus om status te geven aan haast en daarmee toestemming te krijgen om dingen die belangrijk zijn, kapot te mogen maken. Iemand anders moet de rommel maar opruimen. Wetten gelden voor anderen, niet voor tech.
Wie de AI-trein al langer volgt, ziet al snel dat het helemaal geen gloednieuwe technologie is. Verre van. De trein rijdt sinds begin jaren 50 vorige eeuw over een reeds bestaand spoor. Er zijn stations gepasseerd: marketing van ‘AI’ als naam op software, hyper-kapitalisme, opkomst van door mannen gedomineerde macht van technologie boven de mens en natuur, innovatie-fetish, kapotte platforms die de menselijke gebruiker als product kapitaliseren, productiviteitsclaims.
Technosolutionisme zit ons als overheid al langer in de weg. Overheidswebsites zijn verworden tot technische oplossingen die aan overheidsorganisaties verkocht werden met de belofte: uw burger is uw goedkoopste ambtenaar. De burger mag online op zoek naar het juiste formulier in het juiste loketje, hun eigen kind aangeven in het kraambed, op priegelige kaarten doorgeven welke lantaarnpaal kapot is, dan schieten we die formuleren wel de systemen in. De overheid is een computer geworden, automatiseert u als inwoner met ons mee? Anno nu is het bijgesteld naar: we bezuinigen ook meteen maar op de goedkoopste ambtenaren, onze experimentele chatbot neemt het werk wel over.
Buiten het publieke domein zijn er ook problemen. Zelfs al zie je positieve kanten voor de toekomst van en met AI-tools: ondertussen zitten onze kinderen verstrikt in algoritmen en delen volwassenen ziel en zaligheid met technologiebedrijven die deze data weer verkopen of zelfs publiceren.
Inmiddels kun je met ChatGPT ook erotische gesprekken voeren. Dat ziet Sam Altman van OpenAI - bedrijf achter ChatGPT - als groot verkoopargument of waarschijnlijk een manier om geld op te halen. Dit is niet neutraal. ‘Erotica’ kun je zien als sexting met je nieuwe date, waarbij de teksten op de kerktoren worden geprojecteerd en collega’s op kantoor ook kunnen meelezen. Dan heb ik het er niet eens over hoe verwrongen het idee is om zo’n yes-bot aan gewone mensen van vlees en bloed te verkopen.
AI is geen neutrale technologie, dat is technologie overigens nooit. AI is niet artificieel en ook niet intelligent. In elke techniek zit de hand in van de maker en voor het maken zijn veel mensenhanden nodig.
Zoom uit en bekijk de AI-trein voor wat deze is.
Mijn advies: zoom uit en bekijk de AI-trein voor wat deze is. En ga niet overhaast te werk en eis van een ander geen versnelling. Neem als overheidsorganisatie de tijd om echt goed na te denken.
Je kunt je daarbij een paar simpele vragen stellen. Zoals: hoe kom ik erachter of de claims kloppen? Wat is het voor technologie? Door wie is het gemaakt? Wie profiteert en wie ondervindt schade? Wat gaat er goed of misschien beter als ik het niet gebruik? Wat gebeurt er met de data? Met wie werkt dat bedrijf nog meer en wil ik in dat rijtje staan? Welk probleem ben ik eigenlijk aan het oplossen en wie heeft dat probleem? Kan ik het probleem ook oplossen met geavanceerde automatisering of iets anders?
Even reflecteren dus, afremmen. Om Peter Salovey, voorheen bestuurder van de Yale Universiteit, te citeren: Slow down and fix things.
Salovey’s motto om te onthaasten is de tegenhanger van Blitzscaling, de manier waarop bigtech het ecosysteem aanvalt. Dat is: snelheid belangrijker vinden dan kwaliteit, geld belangrijker vinden dan gezondheid en levens. En gas blijven geven, ook al is er op allerlei vlakken onrust en onzekerheid. Iets wat voor iedere overheidsorganisatie aan de orde van de dag is, zeker met dubbele verkiezingen in heel korte tijd, plus een ravijnjaar.
Laat je niet opjagen. Want hoe je ‘AI’ ook ziet, het is een versterker van alles wat we al doen en laten. En als de basis al kapot is, dan is het een versneller van destructie. En dat lijkt me voor geen enkele overheidsorganisatie of bestuurder de bedoeling. Vandaar, rem af en maak eerst de basis op orde.
Wiep Hamstra werkt al meer dan 20 jaar in digitale overheid. Ze doet onderzoek in de buitenwereld en onderzocht vrijwel elke nieuwe technologie en bijbehorende claims.
Plaats als eerste een reactie
U moet ingelogd zijn om een reactie te kunnen plaatsen.