Chatbots aan de ketting

Met de AI Act maakt de Europese Unie helder onder welke voorwaarden kunstmatige intelligentie in de EU mag worden ingezet. Je zou het een vorm van verzet kunnen noemen. ‘Er is nog veel meer maatschappelijk debat nodig over AI.’

EU-debat over regulering kunstmatige intelligentie

Op 20 november 2023 schreef de Amerikaanse AI-expert Gary Marcus in een open brief aan alle Europese leiders: ‘Verniel de Europese AI Act alsjeblieft niet; we hebben hem nu meer dan ooit nodig.’ (Please don’t gut the EU AI Act; we need it now more than ever.) ‘Nu meer dan ooit’ sloeg op de chaos bij OpenAI, het bedrijf achter ChatGPT.

Sam Altman, de ceo van OpenAI, was net ontslagen door het bestuur en dreigde een groot deel van de medewerkers met zich mee te nemen. Uiteindelijk mocht Altman terugkeren en stapten kritische bestuursleden op. In de dagen erna kwam mondjesmaat nieuws naar buiten over waarom Altman eigenlijk moest opkrassen. Hij zou bezig zijn met de ontwikkeling van een potentieel zeer impactvol AI-model, zonder het bestuur daarvan op de hoogte te stellen.

De ironie wil dat OpenAI ooit werd opgericht met het doel om meer transparantie over de snelle ontwikkeling van kunstmatige intelligentie (AI) te bewerkstelligen. Tegenwoordig heeft het bedrijf een winstoogmerk en de daarmee gepaarde terughoudendheid tegenover de buitenwereld. In de open brief schrijft Marcus dat het schisma binnen OpenAI aantoont dat de wereld niet kan vertrouwen op AI-bedrijven die zichzelf reguleren, aangezien er zelfs binnen de interne organisatie al diepe verdeeldheid kan bestaan over het voeren van de juiste koers. Wat toen nog verre van zeker was, is inmiddels nagenoeg een feit: de AI Act komt eraan en geldt straks óók voor ChatGPT.

Op 9 december 2023 bereikten de Europese Commissie, het Europees Parlement en de Raad van de EU na historisch lange onderhandelingen een akkoord over de inhoud van de verordening. De technische details moeten nog worden uitgewerkt en de handtekeningen zijn nog niet gezet, maar in grote lijnen staat vast hoe de Europese Unie een toekomst met kunstmatige intelligentie voor zich ziet.

Transparantie

In de wet staan een aantal duidelijke no-no’s, zoals social scoring van Europese burgers, het voorspellen van criminaliteit op basis van persoonlijke kenmerken en de inzet van emotiesoftware op werk en scholen. Daarnaast bevat de verordening regels waaraan de ontwikkelaars van AI zich moeten houden, zoals de registratie van hoog risico-AI in een openbare Europese database. Voor general purpose AI (GPAI), AI-toepassingen voor meerdere doeleinden, gelden aparte regels. Deze systemen moeten straks transparant zijn over hun werking en training en moeten rapporteren over hun energieverbruik.

De grootste systemen, zoals ChatGPT, worden daarnaast getest op risico’s. Gary Marcus kan gerust zijn: in een achterkamertje AI-modellen ontwikkelen en die op een zeker moment zonder enige vorm van transparantie op de wereld loslaten, komt bedrijven in de nabije toekomst duur te staan.

Naar alle waarschijnlijkheid treedt de AI Act in 2026 in werking. Kunnen we de verordening zien als een vorm van verzet tegen bedrijven voor wie de wereld een proeftuin is voor technologische ontwikkelingen? Dat ligt eraan aan wie je het vraagt. ‘Vooropgesteld: die bedrijven doen niets wat niet mag’, zegt Gabriela Ramos, adjunct-directeur generaal voor Sociale en Geesteswetenschappen van UNESCO. ‘Bedrijven zullen altijd gebruikmaken van te losse regulering. Het is de verantwoordelijkheid van overheden om excessen in de markt te corrigeren.’

In opdracht van de Europese Commissie en de Europese toezichthouders stelt UNESCO momenteel een kader op voor het toezicht op AI. Bij de aankondiging van deze samenwerking, in oktober 2023, sprak Binnenlands Bestuur met Ramos. ‘Europa loopt voorop, maar ik kan je vertellen dat overheden wereldwijd er precies hetzelfde over denken’, zei ze bij deze gelegenheid. UNESCO overlegt met vrijwel alle landen wereldwijd over de omgang met AI. En hoewel er grote verschillen zijn in de implementatie van AI en de rol van de overheid, zijn de meeste landen het volgens Ramos over de basisprincipes opvallend eens. De verwachting is dan ook dat veel landen, met name in Zuid- Amerika, de Europese AI Act zullen gebruiken als een blauwdruk voor eigen wetgeving over dit onderwerp.

Moeizaam

Dat de onderhandelingen moeizaam verliepen, kwam onder andere omdat het Europees Parlement vastbesloten was om niet dezelfde fout te maken als toen men erop vertrouwde dat vrijwillige afspraken met de techbedrijven voldoende zouden zijn om Europa te beschermen tegen de nadelen van socialmediaplatforms. Maar om de AI Act een daad van verzet te noemen, gaat de Rijksinspectie Digitale Infrastructuur (RDI), voorzitter van de Europese werkgroep toezicht op AI, wat ver. ‘Het doel van de AI Act is het versterken van innovatie door het creëren van een level playing field’, zegt Angeline van Dijk, inspecteur-generaal bij de RDI. ‘Daarbij kijken we wat we maatschappelijk aanvaardbaar vinden. We staan voor bepaalde normen en waarden en ethische afwegingen, maar of dat verzet is?’

‘De AI Act is in ieder geval geen verzet tegen big tech’, voegt Meindert Kamphuis eraan toe. Hij is projectmanager Toezicht op AI bij de RDI. ‘Neem het AI-model van het Franse bedrijf Mistral. Dat geeft antwoord op alles, ook op de vraag hoe je een bom maakt.’ De vraag is: hoe krijg je krachtige AI-systemen zo ver dat hun doelen overeenkomen met wat het beste is voor mensen?

Niet toevallig was Mistral een van de aanvoerders van het verzet tégen de AI Act. Onder invloed van de Europese techlobby veranderden Frankrijk, Duitsland en Italië in het laatste stadium van de onderhandelingen van mening over het reguleren van zogeheten foundation models; systemen die met grote hoeveelheden data worden getraind om nieuwe teksten, afbeeldingen, video’s, geluiden of softwarecode te genereren. Volgens de lidstaten waren Europese start-ups meer gebaat bij zelfregulering.

‘We hebben meer druk nodig vanuit de maatschappij’, zei Europarlementariër Kim van Sparrentak (GroenLinks) daarover in november tegen Binnenlands Bestuur. ‘De komst van ChatGPT werkte in ons voordeel toen we een parlementspositie schreven. Nu is die ophef weer weg en hebben de techbedrijven het gevoel dat ze hun gang kunnen gaan.’

Fundamentele keuzes

Voor Van Sparrentak is het een uitgemaakte zaak dat er meer maatschappelijk debat over AI nodig is, ook omdat beleidsmakers anders voornamelijk het geluid van de techlobby horen. ‘Met de AI Act bepalen we hoe je AI moet maken, maar lokale overheden hebben meer te zeggen over hoe je het gebruikt. Juist op dat niveau is meer discussie nodig. Willen wij slimme camera’s op straat? Willen wij dat een AI bepaalt wie er bijstand krijgt? Dat zijn fundamentele keuzes die bepalen hoe onze digitale toekomst eruitziet.’

Voer eens een lokaal debat over de ‘brandstof’ van AI, stelt ze voor. ‘Bedrijven mogen deelscooters op onze publieke wegen laten rijden en data verzamelen over waar ze heen rijden. Die data produceer jíj, op wegen die met jouw belastinggeld zijn betaald. Het zou best logisch zijn als de gemeente die data ook kan gebruiken, bijvoorbeeld om de verkeerscirculatie te verbeteren. Ik zou het zeer aanmoedigen als dit gesprek in gemeenteraden wordt gevoerd.’