De Autoriteit Persoonsgegevens (AP) wil dat het nieuwe kabinet haast maakt met de uitvoering van de regelgeving voor artificiële intelligentie (AI) en het toezicht daarop. Het ontbreekt nu aan stevige regels voor algoritmes en AI en voor de handhaving ervan. Voorzitter Aleid Wolfsen waarschuwt: ‘Nu de druk om AI te omarmen toeneemt, moeten we grondrechten beschermen. Wie een nieuw schandaal wil voorkomen, moet nú handelen.’
AP: Kabinet moet haast maken met de uitvoering van de AI-verordening
De AI-race zet door, terwijl de aandacht voor de beheersingskaders verslapt.
De AP bracht vandaag de zesde editie van de Rapportage AI & Algoritmes Nederland uit, een rapport waarin de risico’s en effecten van AI-gebruik worden geïnventariseerd en vertaald naar een AI-Impactbarometer met 9 graadmeters. Deze toont een verslechterend beeld. In de vorige rapportage stegen al 2 van de 9 graadmeters naar rood, nu zijn dat er 4.
De AP maakt zich vooral zorgen over het gebrek aan voortgang bij de inrichting van toezicht, de ontwikkeling van standaarden, de registratie van algoritmes door de overheid en het zicht op incidenten. Voorzitter AP Aleid Wolfsen waarschuwt voor nieuwe schandalen als de politiek geen vaart maakt met regelgeving en handhaving.
Verschuiving
Met de AI-verordening wil Europa de ontwikkeling van betrouwbare AI bevorderen, met systemen die veilig zijn, grondrechten respecteren en tegelijkertijd innovatie mogelijk maken. De AP ziet echter de aandacht verschuiven van veiligheid en waardengedreven ontwikkeling naar het beschermen en versterken van de eigen concurrentiepositie. Die AI-race gaat geheel voorbij aan de ontwikkeling van een verantwoord innovatieklimaat en bescherming van publieke waarden.
De politieke wens voor vereenvoudiging van regels zorgt voor versnelling van deregulering, maar brengt ook risico’s met zich mee voor burgers. Het AP waarschuwt dat het ‘Digitale Omnibus-voorstel’ van de Europese Commissie in dit licht kritisch moet worden bezien. Met name het voorstel om de inwerkingtreding van de AI-verordening uit te stellen leidt tot nog langere onzekerheid over de gevolgen van de verordening
Risico’s nemen exponentieel toe
De ontwikkeling van ‘agentic AI’ gaat snel. Organisaties omarmen het uit oogpunt van efficiency en experimenteren er ook al mee. Grote techbedrijven integreren de AI-agents in hun systemen. Ook is het steeds makkelijker om autonome AI-agents te bouwen. ‘Toegang tot data, koppelingen met andere systemen en autonoom handelen zorgen ervoor dat AI-agents aantrekkelijk zijn. Maar juist deze kenmerken brengen ook nieuwe risico’s met zich mee.’ Dit vraagt om snelle voorbereiding van organisaties en toezichthouders.
Ook wijst de AP op recente incidenten met AI, zoals de wildgroei aan AI-stemwijzers en de problemen met Grok, waarmee niet van echt te onderscheiden naaktbeelden van ieder willekeurig persoon konden worden gemaakt. Dit brengt de bescherming van grondrechten en cyberveiligheid in gevaar.
Een apart hoofdstuk is gewijd aan de inzet van AI bij werving- en selectieprocessen. Die inzet moet accuraat, niet-discriminerend en uitlegbaar zijn voor kandidaten. Maar de systemen voldoen hier volgens de AP meestal niet aan. Een eerste selectie wordt gemaakt zonder dat duidelijk is hoe zij de geschiktheid van kandidaten voorspellen. Ook is vaak onduidelijk hoe een oordeel tot stand komt en hoe kandidaten dat kunnen betwisten. Daardoor krijgen sommige kandidaten vanaf het begin nauwelijks kans om geselecteerd te worden.
Volgens de Europese AI-verordening zijn AI-systemen voor werving en selectie hoogrisicosystemen en moeten ze vanaf augustus 2026 voldoen aan strenge eisen.
Registratie algoritmes en AI-systemen
Het gaat nog niet goed met de registratie van algoritmes en AI-systemen. Nog te veel Nederlandse toepassingen zijn onvoldoende transparant, schrijft de AP, ook omdat registratie nog amper verplicht is. Er is nog maar een beperkte selectie van algoritmes geregistreerd en door het publiek te raadplegen. De AP signaleert hiernaast dat sommige organisaties onder de AI-verordening uit proberen te komen door hun systemen als ‘gewone algoritmes’ te classificeren. Een voorbeeld is OxRec, dat door reclasseringsorganisaties wordt gebruikt om recidive te voorspellen. Dat was als algoritme geregistreerd, terwijl het een AI-systeem is, met alle risico’s van dien.
Dringende oproep
De AP wil dat het nieuwe kabinet snel werk maakt van de uitvoering van de AI-verordening. Dat betekent: de Nederlandse uitvoeringswet vaststellen, toezichthouders aanwijzen, financiering voor toezicht structureren en duidelijkheid scheppen over de toepassing van de regels. Daarnaast moet Nederland in Europa aandringen op snelle afronding van de discussies over uitstel en vereenvoudiging van de regelgeving, aldus de AP.
Plaats als eerste een reactie
U moet ingelogd zijn om een reactie te kunnen plaatsen.