De versoepeling en het uitstel van onderdelen van de Europese AI-verordening stuiten op stevige kritiek van digitale burgerrechtenorganisatie Bits of Freedom. Volgens de organisatie is de techlobby de grote winnaar van de onderhandelingen over de aangepaste wetgeving. Dat schrijft Bits of Freedom in een reactie op het bereikte akkoord over wijzigingen in de AI Act.
Bits of Freedom: afzwakking AI-wet slecht nieuws voor veiligheid
Bits of Freedom noemt het problematisch dat regels worden uitgesteld terwijl de ontwikkeling van AI-systemen in hoog tempo doorgaat.
De AI-verordening werd in 2024 aangenomen en zou stapsgewijs in werking treden. Daarbij gelden strengere eisen voor zogeheten hoog-risico-ai-systemen. Juist die bepalingen worden nu fors uitgesteld. Regels voor autonome hoog-risico-ai-systemen gaan pas gelden vanaf december 2027. Voor hoog-risico-ai die onderdeel is van een product, verschuift de invoering naar augustus 2028, zo blijkt uit het compromis waarover eerder werd bericht door onder meer Politico.
Problematisch
Bits of Freedom noemt het problematisch dat veiligheidsregels worden uitgesteld terwijl de ontwikkeling van AI-systemen in hoog tempo doorgaat. Volgens de organisatie krijgen bedrijven daardoor extra ruimte om AI-toepassingen verder te ontwikkelen zonder al volledig rekening te hoeven houden met eisen rond veiligheid, uitlegbaarheid en fundamentele rechten.
De burgerrechtenorganisatie wijst erop dat AI inmiddels diep verweven is geraakt met het dagelijks leven en dat mensen nu al te maken krijgen met negatieve gevolgen van AI-toepassingen. Daarom noemt zij het uitstel van de regelgeving schadelijk voor de bescherming van burgers
Belangrijke waarborgen overeind
Tegelijkertijd stelt Bits of Freedom dat een aantal belangrijke waarborgen overeind is gebleven. Zo blijven aanbieders verplicht om AI-systemen te registreren in een Europese databank, ook wanneer zij zelf van mening zijn dat hun toepassing geen hoog-risico-systeem is. Daarnaast blijft voor het verwerken van bijzondere persoonsgegevens een strikte noodzakelijkheidseis gelden wanneer die verwerking bedoeld is om vooroordelen in AI-systemen op te sporen of te corrigeren.
De organisatie noemt ook een positief element in het akkoord: het verbod op zogenoemde nudify-systemen. Met dergelijke toepassingen kunnen geseksualiseerde beelden worden gemaakt van bestaande en identificeerbare personen. Volgens Bits of Freedom hebben dit soort systemen grote impact op slachtoffers doordat beelden kunnen worden gebruikt voor vernedering, intimidatie of chantage.
Kritisch op proces
Verder is de organisatie kritisch op het proces rond de wijzigingen van de AI-verordening. Volgens Bits of Freedom is er veel tijd en capaciteit besteed aan het aanpassen van een wet waar jarenlang over was onderhandeld. Daarbij verwijst de organisatie naar invloed van de techsector op de Europese besluitvorming. De organisatie verwijst daarbij naar onderzoek van Corporate Europe Observatory over lobbyactiviteiten rond de AI-wetgeving.
Bits of Freedom waarschuwt daarnaast dat ook andere Europese digitale wetgeving opnieuw onderwerp van discussie kan worden, waaronder de Algemene verordening gegevensbescherming (AVG). De organisatie zegt zich te blijven inzetten voor bescherming van fundamentele rechten binnen toekomstige Europese wetgeving rond technologie en data.
Plaats als eerste een reactie
U moet ingelogd zijn om een reactie te kunnen plaatsen.