Recent onderzoek van Nieuwsuur wijst erop dat ministers AI gebruiken voor hun toespraken en socialemediaberichten. Sindsdien wordt er gediscussieerd over wat ministers wel en niet met AI zouden mogen doen. Maar wat doen hun ambtenaren eigenlijk met AI? Gebruiken die AI ook bij het schrijven van beleid, wetten, rapporten en Kamerbrieven? En zo ja, hoe weten ministers dan of de documenten die zij ondertekenen wel kloppen?
Eén prompt van een medewerker kan reputatie van bestuurder beschadigen
Bestuurders moeten weten hoe medewerkers AI gebruiken: één misleidend document kan hun reputatie beschadigen.
Dit zijn vragen die niet alleen ministers aangaan, maar iedere bestuurder. Bestuurders zetten hun handtekening onder voorstellen en rapporten die hun medewerkers hebben opgesteld. Zij moeten erop kunnen vertrouwen dat die informatie klopt. Maar wat als medewerkers AI gebruiken om cijfers gunstiger voor te stellen, tegenargumenten af te zwakken of onwelgevallige informatie weg te laten? Zo kan een bestuurder zonder het te weten een misleidend document ondertekenen. Als de fouten aan het licht komen, zal hij echter moeten uitleggen hoe dat heeft kunnen gebeuren. Zijn handtekening staat er immers onder.
Natuurlijk konden medewerkers ook vroeger al cijfers manipuleren of informatie achterhouden. Met AI is dat alleen veel gemakkelijker geworden. Met AI kunnen medewerkers, al dan niet te goeder trouw, eenvoudig cijfers aanpassen, bronnen verzinnen of een rapport zo herschrijven dat vooral de gewenste conclusie overblijft. En lukt het niet op een werkcomputer, dan kan het eenvoudig via een privéapparaat. Het verraderlijke is dat zulke manipulaties vaak niet of nauwelijks opvallen. En als ze al worden ontdekt, kan de informatie al naar buiten zijn gebracht.
Zo ontstond vorig jaar ophef over een gepubliceerd rapport van de Amerikaanse minister van Volksgezondheid Robert F. Kennedy Jr. Daarin werd vele malen verwezen naar wetenschappelijke publicaties die helemaal niet bestonden. Er waren sterke aanwijzingen dat AI was gebruikt bij het opstellen van de verwijzingen. De fouten werden daarmee met name een probleem voor Kennedy zelf. Hij was tenslotte de minister onder wiens verantwoordelijkheid het rapport was verschenen.
Bestuurders mogen er daarom niet blindelings op vertrouwen dat hun medewerkers AI verantwoord gebruiken. Het is derhalve noodzakelijk dat bestuurders aangeven wat medewerkers wel en niet met AI mogen doen en zorgen dat belangrijke documenten worden gecontroleerd voordat ze naar buiten gaan. Zo moet bijvoorbeeld worden nagegaan of de gebruikte cijfers juist zijn en of de aangehaalde bronnen daadwerkelijk bestaan. En als blijkt dat medewerkers zich niet aan de afspraken houden, moeten bestuurders adequaat ingrijpen. Medewerkers kunnen zich dan niet achter AI verschuilen, net zomin als bestuurders zich achter hun medewerkers kunnen verschuilen.
De discussie moet daarom niet alleen gaan over hoe ministers AI gebruiken, maar vooral over de vraag of bestuurders weten hoe hun medewerkers AI gebruiken. Want één prompt van een medewerker kan de reputatie van een bestuurder beschadigen. En die reputatie laat zich niet met een prompt herstellen.
Muel Kaptein is hoogleraar ethiek aan de Erasmus Universiteit Rotterdam en partner bij KPMG Forensic.
Plaats als eerste een reactie
U moet ingelogd zijn om een reactie te kunnen plaatsen.