Advertentie
digitaal / Nieuws

'AI vraagt om politiek bewustzijn'

Reggie Townsend wil burgers bewustmaken van hun eigen inbreng in taalmodellen. 'Samen voeden we AI met representatievere beelden.'

18 september 2023
Portret van Reggie Townsend
Reggie Townsend

Reggie Townsend is Vice President Data Ethics Practice bij AI- en analytics-leverancier SAS. Hij is daarnaast lid van het comité dat de Amerikaanse president adviseert over AI en bestuurslid bij EqualAI, een non-profitorganisatie die bias in AI probeert terug te dringen. Hoe denkt hij dat ambtenaren op een veilige manier met generatieve AI kunnen omgaan? Een gesprek over vertrouwen, soevereiniteit van data en bias in de beelden van ambtenaren.

Coördinator Planning & Control

Certus Groep in opdracht van de Bel Combinatie
Coördinator Planning & Control

Strategisch beleidsadviseur gezonde en veilige leefomgeving (milieu)

Gemeente Ede
Strategisch beleidsadviseur gezonde en veilige leefomgeving (milieu)

BB Generatieve AI is onderwerp van gesprek in vrijwel alle gemeentehuizen, provinciehuis en departementen in Nederland. Waar ligt uw zorg als het gaat om generatieve AI en democratie?

RT 

De voornaamste zorg is de verspreiding van misinformatie. Het gesprek over generatieve AI, over taalmodellen, gaat over een paar spelers, zoals ChatGPT en Bard (van Google, red.). Zij halen hun data veelal uit dezelfde bronnen, voornamelijk van het internet en boeken. In het datacorpus zitten fouten en bepaalde politieke gekleurdheden, die in de taalmodellen terechtkomen. Als iemand ervoor kan zorgen dat een bepaald type informatie in het proces wordt opgenomen, dan kan diegene er ook voor zorgen dat er informatie wordt verspreid die past bij zijn overtuigingen. Dit vraagt van mensen een bepaald maatschappelijk bewustzijn, naast digitale vaardigheden. Die combinatie is momenteel nog op een laag niveau. We moeten niet alleen digitale vaardigheden verbeteren, maar mensen ook betrokken krijgen bij de samenleving en bewustmaken van dit politieke proces.

BB Wat kan de Nederlandse overheid doen om dat bewustzijn te bevorderen?

RT 

Ik wou dat ik daar een antwoord op had. Ken je de Edelman Trust Barometer, die het relatieve vertrouwen in instituties over tijd laat zien? Onder meer door de aanpak van covid-19 en de opkomst van autocratieën beschouwen steeds meer mensen wereldwijd overheden als incompetent en onethisch. De enige manier waarop overheden dat vertrouwen kunnen herstellen, is door transparantie en bereidheid om verantwoording af te leggen.

Beter van niet?

Juist om het vertrouwen van inwoners niet op de waagschaal te stellen, komt het Interprovinciaal Overleg (IPO) tot de conclusie dat het beter is om geen generatieve AI te gebruiken, tenzij aan een groot aantal voorwaarden is voldaan.

BB Wat vindt u van die keuze?

RT 

Een totaalverbod is overcorrectie. Generatieve AI is een techniek. Het is niet de output. Als je wat tijd doorbrengt met ChatGPT of Bard, dan ontdek je dat het vaak prima werkt, al zou ik het niet raadplegen voor medische informatie of financieel advies. Zie het als een nieuwe, effectieve manier om in een kennisbank te zoeken met natuurlijke taal. Ik herinner me nog hoe je door een kaartencatalogus in de bibliotheek moest zoeken om boeken op de plank te vinden. Dat proces had waarde, maar Google, met al z’n links, is een stuk makkelijker. En ChatGPT en Bard zijn nog weer makkelijker dan zoekmachines. Ze distilleren informatie voor je. Het is aan jou om de verschillende mogelijkheden kritisch te bekijken en de juiste voor de toepassing te kiezen.

BB Wat is de meerwaarde precies?

RT 

Niet alleen efficiëntie, maar ook de democratisering van informatie. Voor sommige groepen in de samenleving is het vinden van een goed antwoord op een vraag best lastig. Dat ze de informatie gedestilleerd krijgen door AI is een groot gemak. Ook niet onbelangrijk: taalmodellen kunnen worden gefinetuned voor bepaalde doeleinden, met een datacorpus dat daarop is afgestemd. En dan zijn ze extreem waardevol voor bijvoorbeeld gemeenten, om hun inwoners effectiever van dienst te zijn.

De democratisering van informatie is een belangrijke meerwaarde van AI

BB Een ander probleem van generatieve AI is bias. Hoe krijg je dat uit de systemen?

RT 

Bias is een menselijk probleem. We gaan de bias niet uit mensen krijgen, en dus ook niet uit de data die mensen produceren. Maar we kunnen wel AI-technologie gebruiken om bias te herkennen en te ondervangen. Ik maak me steeds minder zorgen over de extremere vormen van bias omdat ze door AI kunnen worden gevonden. Tegelijkertijd heb je ook te maken met subtielere, impliciete bias.

Ambtenaar is witte man of sexy vrouw

Om maar een simpel voorbeeld te noemen: een door AI gegenereerde afbeelding van een ambtenaar is altijd een witte man. Een verzoek om een afbeelding van een vrouwelijke ambtenaar levert standaard een blonde, sexy vrouw op (of juist een soort heks).

BB Wat is daaraan te doen?

RT 

Ja, dat is een probleem. Sommige grotere beeldbanken bevatten veel suggestieve afbeeldingen van vrouwen in sexy poses. Ik denk niet dat we moeten vertrouwen op OpenAI of Microsoft of Google om dat op te lossen. Maar naarmate meer burgers zich bewust worden van hoe de modellen werken, kunnen we samen de modellen gaan voeden met meer representatieve beelden. Daar zouden bedrijven als SAS graag bij helpen.

Ambtenaar volgens AI Bing: witte man met bril en grijs haar
Een ambtenaar volgens AI van Bing (Microsoft)

BB Hoe staat SAS tegenover het Europese Digital Decade?

RT 

In de AI-verordening zie ik niet veel inconsistenties met onze eigen AI-principes. In grote lijnen komt het overeen met onze 'ethical by design’-benadering. Natuurlijk moet je goed naar de details kijken om te weten wie als een general provider wordt gezien en wie als een service provider, en wat er valt onder laagrisico en hoogrisico-AI. Dat heeft belangrijke implicaties.

BB En u persoonlijk?

RT 

Over het algemeen ben ik een fan van wat ze proberen te doen. Neem de Data Act, waarmee de EU de soevereiniteit van data wil veranderen. Wanneer je de vercommercialisering van data door de grote techbedrijven als Amazon en Google aanpakt, dan gaan ze daar ongetwijfeld iets tegenin brengen. Of het allemaal gaat lukken, gelet op de grote belangen van de gevestigde partijen, is dus weer een andere vraag.

BB U bent lid van het National Artificial Intelligence Advisory Committee, dat de Amerikaanse president adviseert over AI. Doen de Verenigde Staten in uw ogen genoeg om de ontwikkelingen in AI te controleren?

RT 

Ik reageer even als privépersoon. Laat ik eerst zeggen dat we al veel regelgeving voor AI hebben, in de zin dat de uitkomsten van AI meestal een effect hebben in de fysieke wereld. Als je bijvoorbeeld AI gebruikt om fraude te plegen, dan hebben we daar wetten tegen. Het is dus belangrijk bij het bedenken wat er nodig is voor het reguleren van AI om te zorgen dat het niet overlapt met bestaande wetten. Daarnaast moeten we vooruitkijken naar de komende 15 jaar. Dat is ook waarom ik een fan ben van wat de EU probeert te doen met de digitale economie. De EU is over het algemeen proactiever met dit soort zaken, terwijl de VS eerder een afwachtende houding aanneemt, maar in veel opzichten zitten we op één lijn.

We moeten vooruitkijken naar de komende 15 jaar. Daarom ben ik fan van wat de EU probeert te doen met de digitale economie.

BB Enig advies tot slot voor Nederlandse ambtenaren die worstelen met generatieve AI?

RT 

Get into the fight. Doe mee, leer, zorg dat je de basis van AI begrijpt, dat je weet wat het betekent om toegang tot data te krijgen op een manier die aansluit bij de toepassing. Begrijp wat het inhoudt om AI in verschillende contexten toe te passen. Momenteel is het verhaal vaak: zet je schrap, want AI komt eraan. Wij voeren graag het bredere gesprek over generatieve AI, zodat mensen ook weten welke rol ze in het grotere geheel spelen. Ik denk dat dat gesprek uiteindelijk voor vertrouwen gaat zorgen. Omdat het mensen het gevoel geeft dat ze er meer controle over hebben.

Plaats als eerste een reactie

U moet ingelogd zijn om een reactie te kunnen plaatsen.

Advertentie