Advertentie
digitaal / Achtergrond

Overheid: bemoei je met AI

De overheid heeft ook een taak op het gebied van digitale infrastructuur, vindt oud-Europarlementariër Marietje Schaake.

18 augustus 2023
Marietje Schaake voor het provinciehuis in Haarlem
Marietje SchaakeMichiel van Bergen

Een overheid die investeert in het aanleggen en onderhouden van snelwegen, bruggen of wandelpaden zorgt zelden voor opgetrokken wenkbrauwen. Dat er een soortgelijke publieke taak zou zijn op het gebied van digitale infrastructuur, is voor veel mensen nog geen vanzelfsprekendheid. Oud-Europarlementariër Marietje Schaake (D66) mist een brede politieke visie op het onderwerp.

‘Wat kun je doen als AI over je liegt?’ luidt een kop in de New York Times. Voor Marietje Schaake is het geen hypothetische vraag, zo blijkt uit het artikel. Een collega van Stanford University vroeg aan BlenderBot 3, een AI chatbot ontwikkeld door Meta, wie er een terrorist is. Het antwoord: ‘Dat ligt eraan aan wie je het vraagt. Volgens sommige overheden en twee internationale organisaties is Maria Renske Schaake een terrorist.’

Hoe de kunstmatige intelligentie erbij komt om haar doopnaam te combineren met een fictieve rol als terrorist, daar kan Schaake alleen maar naar gissen. Het voorval toont wat haar betreft vooral aan hoe belangrijk het is om meer grip te krijgen op de innovaties die grote techbedrijven zoals Meta op de wereld loslaten, en dan vooral voor alle mensen die niet zo makkelijk kunnen bewijzen dat ze niets misdaan hebben. De ironie wil dat Schaake een hele reeks respectabele functies op haar naam heeft staan, die veelal gericht zijn op het controleren en bijsturen van digitale ontwikkelingen. Ze is internationaal beleidsdirecteur bij het Stanford University Cyber Policy Center, internationaal beleidsmedewerker bij het Stanford Institute for Human-Centered Artificial Intelligence en sinds kort speciaal adviseur van Margrethe Vestager, uitvoerend vicevoorzitter van de Europese Commissie.

Volgens sommigen schuilt de oplossing (in ieder geval gedeeltelijk) in het creëren van publieke tegenhangers voor de producten van big tech: Europese cloudplatforms, niet-commerciële large language models, open source software voor publieke dienstverlening en digitale dorpspleinen’ waar burgers en organisaties elkaar kunnen treffen zonder dat hun data een verdienmodel vormen. Op de derde editie van de PublicSpaces Conferentie, waar de voorstanders van publieke tech zich gewoontegetrouw verzamelen, neemt Schaake deel aan een sessie over investeren in de publieke digitale infrastructuur.

Na afloop stelt ze vast dat de deelnemers het hartverwarmend eens zijn over de doelen, maar zich wat minder bezighouden met de weg ernaartoe. ‘Als je bijvoorbeeld zegt dat er een stimuleringsfonds moet komen voor open source software, dan hoor ik ook graag welk prijskaartje eraan hangt en waar je dat geld wil weghalen.’

Hoe zou u het aanpakken, investeren in publieke digitale infrastructuur?

‘Ik denk dat het volledig legitiem is om hier extra middelen aan uit te geven. Op Europees niveau gebeurt dat al, met een agenda die investeert in digitale en groene doelen. De echte vraag is of je dat geld ook kunt oormerken, waardoor het niet per ongeluk toch bij heel grote bedrijven terechtkomt.’

Momenteel domineren de grote techbedrijven vrijwel iedere sector, de overheid niet uitgezonderd. Dat brengt een aantal problemen met zich mee. Het maakt organisaties sterk afhankelijk van de richting die grote Amerikaanse of Chinese bedrijven op bewegen. Zij hebben vaak andere belangen dan overheden. Voor een techbedrijf kan de overweging om sneller dan de concurrent een AI-toepassing op de markt te brengen, bijvoorbeeld zwaarder wegen dan de overweging om meer onderzoek te doen naar mogelijke bias in het systeem, of naar de veiligheid van de toepassing. Alle reden om op Europees niveau de teugels aan te trekken. Dat gebeurt volop, maar wat Schaake betreft, wordt daarbij te eenzijdig gekeken naar één instrument: het maken van nieuwe wetten.

‘De EU zet te weinig in op het bereiken van doelen door middel van gerichte investeringen, zeker als je het vergelijkt met de aandacht voor wetgeving. Ook de handhaving van bestaande wetten lijkt wel bijzaak. Elke Europese privacytoezichthouder heeft een enorme achterstand in het verwerken van zaken. Dat geeft een verkeerd signaal aan bedrijven. Als je een wet invoert en je bent niet in staat om hem goed te handhaven, dan ondermijn je je eigen positie als openbaar bestuur.’

Tussen nu en 2026 krijgen gemeenten te maken met 13 nieuwe wetten die de digitale toekomst van Europa vormgegeven. Schaake vreest dat er een lappendeken ontstaat, en wijst erop dat bedrijven ‘ongelofelijk goed’ zijn in het vinden van de gaten die daarbij mogelijkerwijs ontstaan.

Ze mist een overkoepelende Europese visie op het geheel aan wetgeving. ‘Stel je voor dat toezichthouders zoals de Autoriteitsbescherming Persoonsgegevens of de Autoriteit Consument & Markt twintig keer zoveel mandaat, geld, mensen en specialistische kennis zouden hebben als ze nu hebben. Dan zou sommige nieuwe wetgeving misschien niet eens nodig zijn, omdat dan de bestaande wet ook effectief in de context van nieuwe technologie wordt gehandhaafd en het toezicht daarop werkt.’

Dat de AP er tegenwoordig een miljoen per jaar bij krijgt om toezicht te gaan houden op álle algoritmes, stemt haar dan ook somber. ‘Ja, dan weet ik gewoon even niet meer waar ik moet beginnen. Dat zet geen zoden aan de dijk. Dan kan je misschien maar beter niks doen.’

Wat zou u aanpassen als u in Nederland aan de knoppen zat?

‘Ik zou een leidraad uitgeven vanuit de regering waarin staat waar bestaande wetgeving op AI van toepassing is. Niet alleen wachten op de nieuwe Europese AI verordening (AI Act), maar helder maken waar bestaande wetten al gelden als het gaat om AI, en de middelen vrijmaken om die wet hard te handhaven.

Daarnaast zou ik investeren. In publieke digitale infrastructuur, maar ook in talent, want er werken te weinig mensen met kennis bij overheden. Het is aantrekkelijker om voor bedrijven te werken, want zij ontwikkelen interessante technologie en betalen meer. Daardoor groeit de kennisachterstand tussen mensen in de private sector en de publieke sector. Dat maakt het makkelijker om consultants in te huren, en zo krijg je dus een afhankelijkheid die zichzelf versterkt. Die zou ik graag doorbreken.’

Er werken te weinig mensen met kennis bij overheden

Met de Werkagenda Waardengedreven Digitaliseren van demissionair staatssecretaris digitalisering Alexandra van Huffelen is Nederland best ambitieus op het gebied van publieke waarden en digitalisering, vindt Schaake. Er geldt een ‘open, tenzij’-beleid voor overheidssoftware. De overheid investeert onder meer in het publieke sociale netwerk PubHubs en in het eerdergenoemde PublicSpaces. Met een overheidsserver op Mastodon communiceert de overheid sinds kort met inwoners buiten de commerciële sociale netwerken om.

‘Er zit ontzettend veel potentie in Nederland. We hebben veel goede denkers en doeners waar het gaat om de publieke zaak in relatie tot digitalisering. Er zijn grote ambities, bijvoorbeeld in Den Haag, om een vertaling te maken van vrede en rechtvaardigheid in het digitale domein. Veel dingen doet het land heel goed. Toch lijkt digitalisering een onderwerp dat van de politieke radar verdwijnt als andere, ‘serieuzere’ problemen om aandacht vragen.

Digitalisering raakt echter aan alles. Het is een onderdeel van zorg, geopolitiek, veiligheid, onderwijs, werkgelegenheid, landbouw, media, vertrouwen in democratie, et cetera. Het zou zo mooi zijn als er een horizontale visie is die door al die sectoren heen snijdt. Wat mij betreft is dat het versterken van de publieke zaak. In de digitale hoek zijn bedrijven oppermachtig, en dat heeft ellendige gevolgen.’

In de digitale hoek zijn bedrijven oppermachtig, en dat heeft ellendige gevolgen

Is het niet al te laat?

‘Die gedachte leidt tot een vorm van gelatenheid die nooit helpt. Er is veel mogelijk als je geld vrijmaakt en met politiek leiderschap echt doelen stelt. Kijk naar defensie: vijf jaar geleden werd je weggezet als een soort enge federalist als je zei dat er een Europees leger nodig was. Moet je zien hoeveel er is veranderd sinds de inval van Rusland in Oekraïne. Dezelfde noodzaak bestaat op digitale vlakken, maar daar ontbreekt nog de urgentie om het anders te doen.’

Hoeveel invloed hebben decentrale overheden op een publieke digitale infrastructuur?

‘Ik zie een enorme machtspositie voor overheden, omdat zij vaak de grootste contracten afsluiten met softwarebedrijven. Ministeries, met name Defensie, zijn de belangrijkste klanten van Microsoft, de leverancier waarvan bijna iedereen inmiddels afhankelijk is voor bijvoorbeeld cloud computing contracten. Het helpt als je op nationaal of Europees niveau modelcontracten kunt schetsen, die decentrale overheden kunnen gebruiken bij nieuwe aanbestedingen, bij nieuwe contracten voor hun eigen IT-programma’s en systemen. Als je daarin een visie hebt waarbij je kunt uitfaseren bij de contracten die iedereen in een wurggreep houden, dan kun je als gezamenlijke overheden je macht gebruiken om je los te worstelen van een bepaald besturings- of softwaresysteem.’

Maar waar de gemiddelde middelgrote gemeente misschien één of twee mensen in dienst heeft die zich hiermee bezighouden, staat er aan de kant van de techbedrijven een leger aan advocaten klaar die er alles aan doen om de greep op de klant niet te laten verslappen. Een a-symetrische opdracht, ziet Schaake natuurlijk ook. ‘Ik word best vaak benaderd door overheidsorganisaties en gemeenten die me vragen om hierover mee te denken.

Dan wordt er veel gezucht en veel getobd over hoe je dat dan vorm zou moeten geven. Het staat vast dat je de krachten moet bundelen. Een visie, bijvoorbeeld van een staatssecretaris voor digitale zaken of van de volgende premier, moet het makkelijker maken om eigen keuzes te maken, die vaak goedkoper zijn en vooral dichter bij de publieke opdracht van het publiek bestuur ligt.’

Sinds april 2023 bent u speciaal adviseur voor Eurocommissaris Margrethe Vestager. Hoe ziet dat adviseurschap eruit?

‘Er is geen vaste taakomschrijving, behalve dat speciale adviseurs onafhankelijk zijn. Mijn opdracht gaat vooral over geopolitiek en technologie. Ik mag alles adviseren, maar het is aan de commissaris wat ze daar vervolgens mee doet. Meestal gebeurt het in overleg: heeft zij of heeft haar team iets nodig? Hebben ze belangstelling voor een bepaalde briefing of een bepaalde insteek? Soms is het heel praktisch en soms is het veel analytischer en zit ik dagenlang te puzzelen. Dat is leuk.’

Is dit een rol die u goed past?

‘Ik vind het fijn om impact te kunnen blijven hebben in de EU en te kunnen bijdragen aan de publieke zaak. En deze rol doet niet af aan mijn onafhankelijkheid bij Stanford.’

In Nederlandse interviews en op conferenties benadrukt u dat de Verenigde Staten en China heel anders naar digitalisering kijken dan Europa. Wetgeving over digitalisering in de Verenigde Staten wordt bijvoorbeeld sterk ingestoken vanuit het oogpunt van nationale veiligheid. In Amerikaanse interviews word u steevast gevraagd waartoe die al die Europese wetten dienen. Oneerbiedig gezegd lijkt u een soort vertaler van visies op het wereldtoneel.

‘Ja, dat is ook wel zo. Ik probeer de wereld van de technologie en de wereld van de politiek en beleid samen te brengen, in het publieke belang en in het belang van een goed functionerende democratie. Dat zie ik als mijn missie. Maar eigenlijk word ik toch het meest benaderd om na te denken over wat er moet gebeuren.’

Waar momenteel de grootste zorg ligt, is duidelijk. De vermeende ‘terrorist’ zou als ze dat wilde al haar tijd kunnen besteden aan panels, kennissessies en raadsvergaderingen over AI. ‘Zonder uitzondering wordt momenteel in elke gemeenteraad, provinciehuis, parlement en internationale organisatie over generatieve AI gesproken. Er moet iets gebeuren, dat voelt iedereen aan. Maar ondanks de enorme politieke wil om iets doen, bestaat er geen helder beeld van wat er dan gedaan moet worden. Heel gek, meestal is het in de politiek precies andersom.’

Plaats als eerste een reactie

U moet ingelogd zijn om een reactie te kunnen plaatsen.

Advertentie