EU weer op jacht naar wereldwijd AI-succes

Meer data in Europa. Dat is wat de Europese Unie wil. De Verenigde Staten en China maken nu de dienst uit op datagebied, wat niet alleen betekent dat Europa geld misloopt, maar ook dat er geen grip is op hoe er met data wordt omgesprongen. In het komende ‘digitale decennium’ wil de EU de achterstand inlopen. Een van de inhaalacties is de Artificial Intelligence Act.

Aanpak nodig

De maatschappij evolueert snel en systemen van kunstmatige intelligentie (AI) bieden allerlei voordelen maar ook nadelen, dus er is een aanpak nodig – en een van de sectoren waar dat het meeste nodig is, is de overheidssector. Wat de GDPR, in Nederland vertaald als de AVG, was voor data, moet deze verordening worden voor AI.

 

Data gebruiken

Het verschil met de GDPR illustreert ook waar AI om draait: de GDPR gaat over privacy en beveiliging bij het verzamelen en verwerken van data. De AI-regulering gaat om de technieken die worden losgelaten op die verzamelingen data – algoritmen die de onderliggende data gebruiken.

 

Data pools

‘Het grote plaatje voor de Europese Unie in één zin is: we willen meer data in Europa’, zegt Kalliopi Spyridaki, Chief Privacy Strategist bij analytics- en AI-specialist SAS. ‘We willen data pools, we willen innovatie en we zullen wetten creëren om dat mogelijk te maken. Momenteel zijn de Verenigde Staten en China de grote spelers en Rusland is opkomend. De Europese Unie wil een omgeving waarin innovatie mogelijk is, maar waar mensen ook beschermd worden.’

Hoog risico

Belangrijk aan de wetgeving is dat het kijkt naar risico. Er is AI met beperkt risico, hoog risico en onaanvaardbaar risico. Voor die indeling kijkt de EU naar de impact van de AI-toepassingen op veiligheid, mensenrechten en vrijheden. Bij het gebruik van een chatbot is bijvoorbeeld slechts sprake van beperkt risico. Systemen met een hoog risico zijn het soort AI dat doorgaans tot discussies leidt. Bijvoorbeeld biometrische identificatie, rechtshandhaving of systemen ‘die bedoeld zijn om door of namens overheidsinstanties te worden gebruikt om te beoordelen of natuurlijke personen in aanmerking komen voor overheidsuitkeringen en -diensten’.

 

Sociaal krediet

Een onaanvaardbaar risico kan ontstaan bij systemen die kwetsbaarheden van mensen uitbuiten, bij systemen die worden gebruikt voor onbeperkte surveillance of bij systemen die worden gebruikt voor social scoring. Denk bij die laatste aan systemen van sociaal krediet zoals China die heeft.

 

Onderzoeken en onderbouwen

De op risico gebaseerde aanpak plaatst de bewijslast bij de ontwikkelaars, gebruikers en toezichthouders. Zij zullen moet onderzoeken en onderbouwen in welke categorieën hun systemen vallen.

 

Overal ter wereld

Het succes van de wetgeving zal afhangen van hoe goed de aanjagersrol werkt. Sommigen ervaren Europese wetgeving als een hindernis, maar de EU rekent erop dat de AI-verordening een standaard wordt. Zo ging het ook bij de GDPR (AVG). Een Australisch bedrijf vertelde Spyridaki: als je de GDPR aanhoudt, zit je overal ter wereld goed. ‘De wetgeving werd overal ter wereld overgenomen en werd daarmee een wereldwijde standaard, ook vanuit een filosofisch en menselijk perspectief. Deze verordening moet dat bewerkstelligen voor AI.’

 

Lijstjes afvinken

Toch is er twijfel bij Spyridaki. ‘Het blijft een goed doordachte wet, zonder grote gaten, maar het proces verloopt langzaam. Zolang het Europees Parlement er niet mee aan de slag gaat blijft het bij lijstjes afvinken en komt er geen debat.’

 

Aan de slag

Wat kunnen Nederlandse overheden en ambtenaren doen? ‘Zij bevinden zich waar de wetten effect krijgen’, zegt Dr. Linnet Taylor, sinds oktober hoogleraar International Data Governance aan de Tilburg Universiteit. ‘Wetgeving heeft alleen zin als er toezicht en handhaving is. Er is veel debat over hoe dit gaat gebeuren. Sommige formele controle, zoals audits, zal worden uitbesteed aan de grote bedrijven. Maar overheden moeten ook aan de slag. Er zullen geen teams uit het niets komen om de wetgeving te handhaven.’

 

Nog meer

Behalve deze AI-verordening heeft de EU nog meer ijzers in het vuur. Vrijdag werd bekend dat de EU-ministers akkoord zijn met regelgeving voor digitale markten (de Digital Markets Act of DMA) en diensten (de Digital Services Act of DSA). En er komt mogelijk begin februari* een voorstel voor de Data Governance Act die de gegevensuitwisseling verbetert. Die gaat bijvoorbeeld over het hergebruiken van overheidsgegevens, ‘wanneer die gegevens onderworpen zijn aan rechten van anderen’, en gegevensdeling tussen bedrijven tegen een vergoeding.

 

Het volledige artikel uit nummer 22 van Binnenlands Bestuur is hier te lezen.

*Een eerdere versie van dit webartikel noemde als verwachte datum voor de Data Governance Act 1 december. Inmiddels is deze datum aangepast naar het eerste kwartaal van 2022, naar verwachting begin februari, omdat een toetsingscommissie de effectbeoordeling van de Europese Commissie afkeurde.