of 64231 LinkedIn

Wetsvoorstel EU voor regulatie hoog risico AI: wat is de impact op overheden?

Wetsvoorstel EU voor regulatie hoog risico AI: wat is de impact op overheden?
SAS Institute Reageer

Op 21 april presenteerde de Europese Unie na jarenlange discussies met diverse stakeholders een wetsvoorstel om zogenaamde high risk Artificial Intelligence (AI) streng te reguleren. De Europese Commissie heeft gekozen voor een veelomvattend en vrij ambitieus wetsvoorstel dat het potentieel heeft om de AI-markt in een nieuwe richting te sturen. De wet bevat nalevingsvereisten en verplichtingen voor AI-ontwikkelaars, -aanbieders en -gebruikers op terreinen als risicomanagement, datakwaliteit, data governance, traceerbaarheid van data, transparantie en accuratesse.

AfbeeldingDe EU heeft een lijst opgesteld met wat moet worden beschouwd als ‘high risk AI’ en classificatiecriteria om te beoordelen welke algoritmen in de toekomst in de categorie ‘high risk’ kunnen vallen. De classificatie hangt nauw samen met het soort en de ernst van het risico dat specifieke AI-toepassingen kunnen vormen op het gebied van veiligheid, mensenrechten en vrijheden. Zo heeft AI in speelgoed een heel andere uitwerking dan in auto’s of AI om te voorspellen in welke wijken mensen een hoger beroep gaan doen op de Wmo.

 

Overheden krijgen op ten minste drie manieren met deze nieuwe EU-wetgeving voor AI te maken: als handhaver van de nieuwe wet, als gebruiker en als de belangrijkste aanjager voor innovatie en acceptatie van AI. De overheid is naast de controlerende partij immers ook een gebruiker. Sterker, de overheid is een belangrijke aanjager geweest van innovatie op dit terrein. Dit gaat soms gepaard met uitdagingen, zoals in Nederland het geval was met het anti-fraudesysteem SyRI. Het is dan ook niet vreemd dat de wet veel focus legt op overheidstoepassingen van AI.

 

Daarom stelt de nieuwe wet terecht niet alleen maar strengere eisen, maar voorziet ook in een aanjagersrol. Een van de voorgestelde maatregelen is bijvoorbeeld de realisatie van AI-sandboxes door nationale overheden, die marktpartijen de mogelijkheid geven om de door hen ontwikkelde algoritmen in een vroegtijdig stadium te toetsen. Een ander voorstel heeft betrekking op activiteiten om het bewustzijn rond hoog risico AI te verhogen, met name bij kleinschalige ontwikkelaars en gebruikers.

 

Naar verwachting kan de AI-wet een vergelijkbaar effect hebben als de AVG. Waar de AVG wereldwijd het privacybewustzijn heeft aangewakkerd, zal dit nieuwe wettelijke kader wereldwijd de bewustwording van de risico’s van het gebruik van AI en de bijbehorende compliance-eisen vergroten. Het kan een nieuwe standaard bieden voor hoe je omgaat met hoog risico AI. Door de gedetailleerde eisen aan data governance ligt er tevens nog meer nadruk op alles wat te maken heeft met datakwaliteit. Dit wordt ook nog eens versterkt door andere wetgevingsvoorstellen van de EU die dit jaar worden verwacht, zoals de nieuwe Data Act en Data Governance Act.

 

Hoger bewustzijn over de risico’s van het gebruik van AI leidt ook tot beter inzicht in de connectie tussen mensen, data, processen en technologie. Wat kunnen de mogelijke gevolgen zijn van de inzet van technologie? En hoe voorkomen we dat die gevolgen zich gaan voordoen? Want hoewel er een groot verschil bestaat tussen hoe overheidsorganisaties met AI omgaan, zien wij toch dat ze te weinig werken vanuit een strategie of visie. Te vaak is opportunisme de drijfveer achter initiatieven. Het gevolg is dat er makkelijk allerlei puntoplossingen ontstaan en het AI-landschap fragmenteert. Dit leidt tot uitdagingen en risico’s op het gebied van data, autorisatie en privacy.

 

Wij hebben goede hoop dat dit wetsvoorstel leidt tot een andere aanpak van AI-trajecten bij de overheid. Een aanpak waarbij een strategische visie leidend is en er wordt gewerkt vanuit een overkoepelend raamwerk, waar een ethische review onderdeel van uitmaakt. Bij SAS noemen we dat de ModelOps-benadering; een structuur en proces waarbij je je AI-modellen continu monitort.

 

Door: Kalliopi Spyridaki, Chief Privacy Strategist bij SAS en Andre van der Meer, Business Development Specialist Public & Health bij SAS

Verstuur dit artikel naar Google+

Reageer op dit artikel
















Even geduld a.u.b.

Contactgegevens

AfbeeldingSAS Institute
Flevolaan 69
1272 PC Huizen
Tel.nr. 035-6996900
Adres website sas.com/nl
Mailadres sasinfo@sas.com

Meer nieuws

Whitepapers

Bloggers