Filosoof Carissa Véliz waarschuwt in een interview met Wouter van Noort (NRC, 12 juni) tegen de onbedoelde effecten van voorspellende AI op burgers en consumenten. Haar grootste zorg: voorspellingen over mensen die zich voordoen als feiten en zo leiden tot besluiten. Maar AI houdt meer in dan alleen LLM's. Met andere AI-technieken is het mogelijk om AI-toepassingen te ontwikkelen waarvan de uitkomsten wél kwalitatief goed, uitlegbaar en herleidbaar zijn.
De toekomst is aan AI-toepassingen die wel uitlegbaar zijn
AI hoeft geen black box te zijn. Uitlegbare, herleidbare toepassingen bieden een verantwoord alternatief voor GPT-achtige systemen.
Waakzaamheid bij hoe AI zich ontwikkelt en wordt ingezet, is beslist op zijn plaats. Véliz scheert echter alle soorten AI over één kam. En de voorbeelden die ze oproept ter illustratie van waar het misgaat (zoals bij kredietscores, fraudeprofielen bij verzekeraars en risico-indelingen door overheden), gaan over andere, al langer bestaande toepassingen van AI. Deze oudere toepassingen zijn veelal gebaseerd op klassieke statistische en machinelearningmodellen. Na de introductie van ChatGPT eind 2022 hebben organisaties daar vaak functionaliteit van grote taalmodellen (LLM's) aan toegevoegd. Deze vervangen soms de oude modellen, maar zeker niet altijd en overal.
Organisaties die AI als black box inzetten, brengen ons weer terug bij het domme 'computer says no'
Véliz noemt LLM's letterlijk ‘fancy autocomplete’, een synoniem voor wat een paar jaar geleden nog de ‘stochastische papegaai’ werd genoemd. LLM's doen voorspellingen over woordvolgordes. Hoewel LLM's steeds beter worden in inhoudelijk redeneren, zegt Véliz dat de snelle ontwikkelingen in AI daar voor haar niets aan veranderen. Dat vraagt om een nuancering.
Het is mogelijk om AI-toepassingen te maken waarvan de werking wél uitlegbaar is en waarvan de uitkomsten herleidbaar zijn naar de gebruikte data en bronnen. Klassieke AI-technieken zoals knowledge graphs spelen daarbij een steeds belangrijkere rol. Deze AI-toepassingen worden wel GraphRAG genoemd (RAG staat voor Retrieval Augmented Generation).
In knowledge graphs kunnen feiten worden gerepresenteerd, waarover kan worden geredeneerd. Wanneer deze als uitgangspunt worden gebruikt voor de inzet van andere technieken, waaronder LLM's, kan ‘hallucineren’ – het genereren van onjuiste informatie – worden voorkomen. Als ze worden gecombineerd met data over een specifieke eindgebruiker, kunnen antwoorden ‘op maat’ worden gegeven voor iemands persoonlijke situatie.
Daarnaast kiezen verstandige automatiseerders ervoor om een deel van de processen, acties en beslissingen via klassieke deterministische software te laten uitvoeren of met behulp van klassieke regelsystemen. LLM's worden wel veelvuldig ingezet als er gecommuniceerd moet worden met gebruikers, maar de resultaten van eerdere processen worden dan als feitelijkheden meegegeven. Zo zijn de antwoorden herleidbaar naar een controleerbare bron.
Deze methoden zijn wezenlijk anders dan de GPT-toepassingen van bijvoorbeeld Google, OpenAI en Meta. Hun output is niet uitlegbaar, omdat je deze ‘black boxes’ niet kunt openen om te zien wat er precies onder de motorkap gebeurt.
Hoewel deze bedrijven ondertussen allerlei andere technieken hebben toegevoegd aan de LLM's om de werking ervan te verbeteren, zouden deze black boxes wat ons betreft niet mogen worden gebruikt voor overheidsbesluiten, fraudeprofielen en kredietscores. Sterker nog, onze wet- en regelgeving verbiedt dit en rechters benadrukken telkens weer het belang van uitlegbaarheid van AI-toepassingen.
Ook moeten veel organisaties nog stappen zetten om de kwaliteit van hun data te verbeteren. Veel data zijn vervuild of verouderd en kunnen niet zomaar gebruikt worden. Véliz stelt terecht dat data slechts een beperkte afspiegeling vormen van de werkelijkheid en van iemand als persoon. Het levert inderdaad grote risico's op wanneer deze data gebruikt worden voor self-fulfilling voorspellingen.
Véliz heeft dus veel terechte punten als antwoorden, suggesties en voorspellingen van een AI-toepassing klakkeloos worden overgenomen. Sommige risico's blijven aan de orde, ook als de antwoorden wél uitlegbaar en herleidbaar zijn. De inzet van experts zoals sociologen en psychologen kan helpen bij het vraagstuk van de omgang van mensen met computers en AI-toepassingen. Uitlegbaarheid en herleidbaarheid kunnen hierin een plek krijgen, bijvoorbeeld door tijdens een chat de gevolgde redenering en de gebruikte data te tonen, zodat gebruikers deze kunnen verifiëren. Of door bij elk besluit een uitgebreide toelichting te geven. Ook kan het vierogenprincipe worden aangehouden, waarbij medewerkers aantoonbaar naar de gevolgde redenering kijken voordat ze een besluit bekrachtigen.
Er moet meer aandacht komen voor discussie over wat we toelaatbaar vinden en voor welke doelen we welke soorten AI-toepassingen wel of juist niet willen inzetten. Soms is onze wet- en regelgeving al duidelijk. Maar er is ook een breed ethisch spectrum van toepassingen die wellicht wel zijn toegestaan, maar waarbij we ons kunnen afvragen of we het moeten willen. Het boek van Véliz helpt hierbij.
AI is niet te stoppen, maar we kunnen in Nederland en Europa wél het initiatief nemen en AI-toepassingen ontwikkelen die passen bij de wettelijke normen en de maatschappelijke waarden die wij belangrijk vinden. Uitlegbaarheid en herleidbaarheid zijn cruciaal. Organisaties die AI als black box inzetten, brengen ons weer terug bij het domme ‘computer says no’. Daarbij worden klanten en burgers de dupe van zowel kunstmatige als een gebrek aan menselijke intelligentie.
Art Ligthart, chief digital transformation bij Y.Digital
Erik Bouwer, journalist en uitgever Ziptone
Plaats als eerste een reactie
U moet ingelogd zijn om een reactie te kunnen plaatsen.