Essay: AI van en voor iedereen

Kunstmatige Intelligentie (AI) wordt vaak gepresenteerd als een onontkoombaar natuurverschijnsel dat onze toekomst zal bepalen. Maar wie dat als feit aanneemt, vergeet dat AI mensenwerk is. Het bestaat uit systemen die door mensen zijn ontwikkeld, op basis van logica, wiskunde, statistiek en code. Het zijn mensen die AI-toepassingen bedenken, bouwen, trainen, testen en inzetten. Het zijn zij die beoordelen of het systeem naar behoren functioneert. Of het assisteert, controleert of vertrouwen wekt.

In alle ­stappen hebben en maken mensen keuzes. Maar ondertussen worden we massaal afgeleid door misleidende metaforen, wordt onze verbeelding gekaapt en gaan de torenhoge onrealistische beloften gepaard met een kunstmatige race naar nergens.

Mensen makkelijk, computers gecompliceerd

Computerwetenschappers en wiskundigen zagen als eerste de concrete opbrengsten van AI-technologie. Kenmerkend voor dit type academicus is dat ze problemen oplossen door systemen te bouwen. Computers en software vormen de bepalende instrumenten tijdens het ontwikkelproces. De problemen echter tellen alleen wanneer zowel de ingenieurs als de machines ze herkennen en begrijpen – anders zouden ze het immers niet eens zien als een probleem. Zo volgt het uitgangspunt voor ingenieurs dat een probleem alleen relevant is wanneer het met technologie kan worden opgelost. Dat is al met al een zeer beperkend uitgangspunt voor een technologie zoals AI die de hele wereld zou gaan overnemen.

In jargon wordt dit fenomeen complexiteitsreductie genoemd. Het soort oplossingen dat hieruit voortkomt, omschrijven critici als technosolutionisme. Het gevaar van deze benadering wordt helder uiteengezet door Ben Green in zijn boek The Smart Enough City. Wanneer we maatschappelijke problemen alleen door een technologische lens bekijken, zien we uitsluitend wat meetbaar en oplosbaar is met technologie. Daardoor blijven problemen die om politieke keuzes en sociaal-maatschappelijke interventies vragen buiten beeld, omdat ze niet passen binnen het technische denkraam van wie AI ontwikkelt en inzet. Daarmee worden de onderliggende machtsverhoudingen, sociale structuren en menselijke behoeften gemist. Dit creëert oplossingen die ‘slim’ lijken maar het echte probleem niet oplossen.

Metaforen voor 'magie'

Want hoe we AI-toepassingen omschrijven en in hoeverre we het gebruik ervan vertrouwen, speelt een rol in hoe we er wetten voor maken of wetenschappelijk naar kijken. In een artikel in Science geeft computerwetenschapper Melanie Mitchell een paar voorbeelden: ‘De metafoor van ‘LLM (taalmodel, red.) als brein’ heeft wetenschappelijk onderzoek in bepaalde richtingen gestuurd.’ Wanneer je vanuit die metafoor werkt, lijkt het logisch om een taalmodel een IQ-test of een andere gestandaardiseerde test te laten doen. Die zijn natuurlijk eigenlijk bedoeld om mensen te evalueren. Het is dan een kleine sprong om LLMs persoonlijkheidstests te laten doen. In die geest ga je chatbots inzetten als vervanging voor mensen in psychologische experimenten. Het is daarna ook niet meer ondenkbaar om na te denken over hoe we deze systemen ‘moreel gezien’ moeten behandelen – denk daarbij aan rechten voor robots. Laat je deze breinmetafoor los, dan zijn de evaluaties en testscores die AI-bedrijven gebruiken om de kracht van hun nieuwe taalmodellen te promoten opeens veel minder zinvol.

Er zijn hierbij tegenstrijdige belangen in het spel: nieuwe technologieën hebben eenvoudige metaforen nodig om begrepen te kunnen worden en te kunnen floreren. Zo wordt complexiteit verminderd. Maar om te ontsnappen aan het idee dat je geen invloed hebt op AI, is nuance en complexiteit nu juist nodig. Ondertussen geloven bedrijfsdirecties, oprichters en investeerders in AI wel in de overtuigende mythes en metaforen en belonen ze communicatiespecialisten voor het versterken ervan bij consumenten. De metaforen worden ook in de media grif overgenomen en de vele beloften en marketingteksten vinden weinig weerspraak in berichtgeving of items op televisie over AI, zo blijkt uit onderzoek van het Reuters Instituut voor Journalistiek van de Universiteit Oxford.

AI is (g)een normale technologie

Het is mede door de metaforen en de vermeende magie dat veel mensen zijn gaan geloven dat AI een ander soort technologie is dan alle andere soorten ervoor. Computerwetenschappers Arvind Narayanan en Sayash Kapoor van de Princeton Universiteit stellen dat AI toch wel gewoon een normale technologie is, simpelweg doordat de externe wereld limieten stelt aan wat een technologie kan. Die limieten bepalen het tempo van de impact, niet de technologie zelf.

De rol die een technologie krijgt, is geen onvermijdelijke rol die in de technologie zelf besloten ligt. Daar gaan keuzes aan vooraf – ook bij disruptieve technologieën als AI. Het zijn mensen die bepalen of en in welke mate AI invloed krijgt op de omgeving. Journalist Maurits Martijn (De Correspondent) schreef hier eerder over: ‘Een chatbot kan misschien een juridisch document analyseren, maar wie beslist of die analyse bindend wordt in een rechtbank? Zelfrijdende auto’s kúnnen zelf rijden, maar wetten, verzekeraars, infrastructuur en politiek bepalen of en waar ze de weg op mogen.’

Het is dus niet enkel van belang wat AI kan, op het scherm of in het lab, maar meer de manier waarop het wordt ingebed in de wereld. Die bestaat uit organisaties, instituties, politiek, wetten en mensen. Wetenschappers Narayanan en Kapoor denken ergens wel dat kunstmatige intelligentie een revolutionaire technologie kan zijn, zoals elektriciteit en het internet dat ook waren. Alleen noemen de twee wetenschappers de AI ‘normaal’ omdat ze breder naar de impact van technologie kijken. Dat AI door bepaalde aanhangers ervan juist als abnormaal wordt gezien, komt volgens Naraynan en Kapoor door een veelgemaakte denkfout: ‘AI-revolutionairen menen dat kunstmatige intelligentie zo krachtig wordt dat het autonoom zal opereren en zo de wereld verandert.’ Een vergelijking met eerdere technologieën heeft daarom volgens Narayanan en Kapoor geen zin: ‘Superintelligente AI is een geval apart. Maar hier verwarren AI-revolutionairen vermogen – de capaciteit om taken correct op te lossen – met macht: de capaciteit om de omgeving te veranderen. ‘Vermogen’ is een eigenschap van een AI-systeem, terwijl ‘macht’ draait om de manier waarop mensen de omgeving ontwerpen waarbinnen een AI opereert.’

Het helpt hierbij ook niet dat er geen begrip zo diffuus is als ‘intelligentie’. Filosofen breken zich er al een paar duizend jaar het hoofd over. Is het mogelijk om alle mensen op een rij te zetten van dom naar intelligent, en dan iets verderop de AI-machine te plaatsen?

Zo zijn er meer zaken rondom AI diffuus en multi-interpretabel. Onderzoeksjournalist en poeziecriticus Sahra Mohamed vindt onnauwkeurigheid in het AI-debat problematisch: ‘We maken tijdsprongen van decennia en spreken in algemene termen over of AI. We doen er goed aan om nauwkeuriger onze vragen te formuleren. Daarom kunnen we beter niet stellen ‘hoe slim een mens is’ maar vragen: ‘over welke (soort) mens hebben we het?’ We moeten doorvragen als iemand stelt dat ‘alle banen gaan verdwijnen door AI: ‘welke banen? Op welke manier? In welke sectoren en regio's? Voor wie? Wanneer? En onder welke voorwaarden?’ Dat zijn veel essentiëlere en meer constructiever vragen die nauwelijks in het huidige debat gesteld worden. 

Hoe het komt dat we deze vragen niet of te weinig stellen, laat zich niet moeilijk raden. Het heeft alles te maken met wie er aan de knoppen zit. De mensen die nu de keuzes maken rondom AI, die beslissen wat wel en niet mag en die bepalen hoe de technologie werkt, zijn niet weg te slaan bij de president van de Verenigde Staten, die ze voor hun AI-plannen geen strobreed in de weg legt. Het is een kleine, homogene groep mannelijke miljardairs uit techsector van Silicon Valley. Zij bepalen hoe technologie wordt ontworpen en waartoe deze zal worden ingezet.

Lees het volledige essay in Binnenlands Bestuur 22 (inlog)

Gabriella Obispa is jurist en projectleider AI Ethiek en Recht bij de Nationale Politie. Eerder werkte ze voor de Commissie Persoonsgegevens van de Gemeente Amsterdam (CPA).

Laurens Vreekamp is journalist en oprichter van de Future Journalism Today Academy. Hij schreef The Art of AI (2022).