Advertentie
digitaal / Nieuws

‘Kunstmatige intelligentie biedt nauwelijks winst’

De grote beloften vanuit de AI-industrie worden nauwelijks waargemaakt, ziet cultuursocioloog Siri Beerends.

29 mei 2023
Cultuursocioloog Siri Beerends van SETUP
Siri BeerendsHenriette Guest

Rondom kunstmatige intelligentie (AI) vindt enorm veel hypevorming plaats, waarschuwt cultuursocioloog Siri Beerends. Dat wil niet zeggen dat we het kunnen afdoen als een hype. Integendeel: ‘Door de hype wordt het een alledaagse realiteit waar we mee moeten dealen.’

Adviseur HR

Gemeente Oirschot via Geerts & Partners
Adviseur HR

Projectleider Uitvoeringsagenda onderwijskwaliteit

JS Consultancy
Projectleider Uitvoeringsagenda onderwijskwaliteit

Geen roepende in de woestijn meer

Cultuursocioloog Siri Beerends, werkzaam bij SETUP, heeft het druk. Haar kritische blik op technologische ontwikkelingen vormt een welkom tegenwicht voor Alexander Klöpping en consorten. Sinds de komst van ChatGPT staat de telefoon helemaal niet meer stil. Voorgoed voorbij is de tijd dat ze zich een roepende in de woestijn voelde.

BB Wat doet een cultuursocioloog precies?

SB 

Ik kijk met een cultuursociologische blik naar techniek. Onderwerpen als digitalisering, automatisering en kunstmatige intelligentie duid ik meer vanuit cultuur. In de producten die techbedrijven ontwerpen en op de markt brengen, zit een impliciet mensbeeld ingebakken. Ik vind het belangrijk om te laten zien hoe dat ons denken en handelen met technologie bepaalt, en wie daarvan profiteren.

Mens als optelsom datapunten

Het heersende mensbeeld in Silicon Valley, de bakermat van de kunstmatige intelligentie, stamt nog uit de tijd van het behaviorisme, dat de mens beschouwt als een stimulus-response machine.

Beerends: ‘Techbedrijven zien de mens als een optelsom van datapunten, die je kunt sturen en manipuleren. Daar komt ook het idee vandaan dat je in computers de mens kunt nabouwen of menselijke intelligentie kunt imiteren. Eigenlijk gaat het al mis bij de term “kunstmatige intelligentie”. Die roept verwachtingen en gevoelens op die niet aansluiten bij wat een computer kan. Intelligentie is veel meer dan een statistische patroonvertaling en kansberekening, maar dat is in feite alles wat AI doet.’

Intelligentie is veel meer dan een statistische patroonvertaling en kansberekening, maar dat is in feite alles wat AI doet.

BB Hoe zou kunstmatige intelligentie beter kunnen heten?

SB 

Ik vind statistics on steroids mooi. AI is een krachtige vorm van statistiek. Dat is niet onschuldig of ongevaarlijk, al zijn die gevaren heel anders dan nu in het AI-debat vaak geschetst wordt.

Open brief beïnvloedt toon debat

Beïnvloed door big tech gaat de discussie niet zozeer over wat kunstmatige intelligentie nu kan, maar vooral over de angst voor een kunstmatige superintelligentie die zich tegen de mensheid keert. De open brief waarin een groot aantal techprominenten pleit voor een pauze in de ontwikkeling van AI, omdat het allemaal wel erg snel zou gaan, heeft veel invloed op de toon van het debat. Beerends: ‘Met het idee dat AI er is om de mens te verslaan of te vervangen zitten we echt op het verkeerde pad. Het betere alternatief, waar men op hoopt en waar ook met de AI Act op wordt ingezet, is een goede samenwerking met AI. Maar ik denk dat we ook daar veel te rooskleurig naar kijken. Alsnog wordt AI erdoorheen geduwd, terwijl het in de praktijk helemaal niet kan voldoen aan de hoge beloften.’

Hulpje van AI

De belofte van AI is in de eerste plaats dat het mensen tijd bespaart. Doordat AI de repetitieve taken overneemt, zouden mensen zich met echt belangrijke dingen kunnen bezighouden, zoals de menselijke maat in de context van de overheid. Dat blijkt nogal eens tegen te vallen. Beerends: ‘In synthetische biologielabs bleek de tijdsbesparing voor wetenschappers niet op te gaan, omdat ze meer tijd kwijt waren aan het machine-leesbaar maken van informatie, die uiteindelijk weinig opleverde. Het ging ten koste van het ontwikkelen van nieuwe hypotheses, terwijl daar de echte innovatie zit.’

BB Techoptimisten zullen zeggen dat zo’n situatie tijdelijk is en dat AI de samenleving op de langere termijn wel degelijk veel oplevert. Is dat niet zo?

SB 

Die worst wordt ons al heel lang voorgehouden. In specifieke contexten kan het zo zijn, maar vaker is het niet het geval. Veel werk wordt onder invloed van AI juist repetitiever, omdat mensen het werk van machines moeten trainen, voeden of controleren. Bovendien zijn we als mensen geneigd om de vrijgekomen tijd te vullen met het volgende dat geautomatiseerd moet worden. Zo blijven we het eeuwige hulpje van AI. Veel mensen weten niet hoe veel onzichtbare menselijke arbeid schuilgaat achter het trainen van computersystemen. Het is naïef om te denken dat er een soort magisch punt in de toekomst is waarop de computer het allemaal zelf kan.

Het is naïef om te denken dat er een soort magisch punt in de toekomst is waarop de computer het allemaal zelf kan.

We vergelijken mensen ook niet met auto's

De Amerikaanse techvisionair Jaron Lanier, die ze graag aanhaalt, verwoordt het verschil tussen kunstmatige en menselijke intelligentie als volgt: ‘Onszelf vergelijken met AI is zoiets als onszelf vergelijken met een auto. Het is zoiets als zeggen dat een auto sneller kan dan een menselijke hardloper. Natuurlijk kan een auto dat, en toch zeggen we niet dat een auto een betere hardloper is geworden dan de mens.’

Werkelijke problemen minder spannend

Daar komt bij dat we de werkelijke gevaren van AI saai vinden, schrijft Beerends in een essay op iBestuur. Niet robots die de mensheid uitroeien vormen een gevaar, maar een toename in sociale ongelijkheid, desinformatie en verwarring, een grote ecologisch impact en culturele homogenisering: dat wat mensen met AI maken, gaat steeds meer op elkaar lijken. ‘Dat zijn geen nieuwe problemen, krijg ik vaak te horen als ik deze bezwaren opsom. Dat klopt, maar dat maakt ze niet minder relevant.’

Slecht bewezen technologie

Al met al genoeg redenen om al die miljarden die in kunstmatige intelligentie worden gestoken elders in te investeren, vindt ze. ‘Wat levert AI concreet op voor mens en samenleving? De winst is mager. Het is treurig dat er zo veel geld omgaat in een technologie die zich zo slecht heeft bewezen.’

BB Een hype kun je gerust links laten liggen. Geldt dat ook voor AI?

SB 

Absoluut niet. Overal om ons heen worden AI-toepassingen geïmplementeerd, van online daten tot het aannemen van personeel. Door de hype wordt het een alledaagse realiteit waar we mee moeten dealen.

Mens aangedreven door machine

Voor haar promotieonderzoek bij de Universiteit Twente bekijkt Beerends hoe mens en samenleving veranderen onder invloed van AI. Op de werkvloer hebben veel mensen te maken met AI-systemen die hun werk aandrijven of controleren. Dat de mens meer naar de machine opschuift, beschouwt ze als een groot risico.

BB Voor een supermarktmedewerker die zelfscankassa’s moet controleren, wordt het werk er niet leuker op. Maar wat raad je ambtenaren aan?

SB 

Ik vind dit lastig, want ik kan me voorstellen dat ambtenaren doodgegooid worden met adviezen over wat ze al dan en niet moeten doen met technologie. Maak in ieder geval onderscheid tussen AI-marketing en concrete meerwaarde. De samenleving heeft behoefte aan de menselijke maat. Je zit als overheid niet op de goede weg als je je in de luren laat leggen door de AI-industrie, die voor elk probleem een AI-systeem blijft aansmeren. Als ambtenaar mag je best vaker vragen stellen. Moeten we dit überhaupt wel gebruiken? Wat levert het op? Wie worden er beter van? En onderzoek vooral wat het systeem doet met de mens en de taakopvatting van de mens. Wordt die taakopvatting uitgehold en verschraald, zodat we makkelijker kunnen roepen dat een robot het ook wel kan doen? Dan ben je volgens mij verkeerd bezig.

Siri Beerends is een van de sprekers op GovTech Day, 9 juni 2023 in Delft.

Lees het hele artikel in Binnenlands Bestuur nr. 10 (inlog)

Reacties: 4

U moet ingelogd zijn om een reactie te kunnen plaatsen.

Nico Bos
Wat een absurd primitief inzicht dat AI nauwelijks iets zinvols oplevert. Slechts 1 voorbeeld hier wat dit heeft betekend voor de farmaceuten die de moleculaire 3D opbouw van het COVID-19 virus (en alle varianten) met AI hebben uitgeplozen waarop de vele levensreddende vaccins zijn gebaseerd. Succes met je proefschrift Siri.... link review artikel (en lees vooral ook de referenties):
https://www.sciencedirect.com/science/article/pii/S2589750020301928
P. Smit
"....waarop de vele levensreddende vaccins zijn gebaseerd."

HUH? Onder welke steen leeft u?
Nico Bos
Bijbelbelt meneer Smit?
Toine Goossens
Inderdaad Nico Bos, primitief inzicht. Deze mevrouw beweert zoiets als 'het verbieden van nieuwe wapens leidt tot een vreedzame wereld'. Van de echte werking van gedrag heeft deze sociologe weinig kaas gegeten.
Advertentie