Amnesty roept Heerlen op te stoppen met AI-project

Is het mogelijk om verantwoord aan predictive policing te doen, AI-systemen inzetten die criminaliteit of overlast voorspellen? Nee, zegt Amnesty International. Toch wel, denkt de gemeente Heerlen. Met het project Pulse-Twin hoopt Heerlen een voorbeeld te worden voor andere steden in binnen- en buitenland. Vooralsnog roept het project vooral veel kritiek op.

Social Digital Twin

Ruim 40 procent van de inwoners van Heerlen-Noord voelt zich onveilig in hun woonplaats, tegen een landelijk gemiddelde van 14 procent. De pilot Pulse-Twin, een samenwerking van onder meer de gemeente, de nationale politie en Maastricht University, is in het leven geroepen om de veiligheid van de Heerlenaren te verbeteren. Van de stad wordt een Social Digital Twin gemaakt, een 3D virtuele-weergave van de gebouwen en straten, waarin ook informatie is verwerkt over hoe prettig en veilig mensen leven. AI moet vervolgens patronen herkennen en voorspellingen doen die de gemeente ondersteunen bij het maken van keuzes over leefbaarheid en veiligheid in de wijk. Vanuit de Europese Unie is vijf miljoen euro uit het European Urban Initiative-programma beschikbaar gesteld.

Het project kan al vanaf de start in december 2025 op veel kritische aandacht rekenen. In een recente gemeenteraadsvergadering zei burgemeester Roel Wever dat de mensenrechtenorganisaties Amnesty International en Bits of Freedom ‘in zijn nek hijgen’. Tegen de Limburgse zender L1 zei hij: ‘Iedereen mag AI overal voor gebruiken, voor recepten of teksten, maar als wij algemeen gegenereerde gegevens gebruiken om de wijken leefbaarder te maken en veiliger in te richten dan krijg je een hoop bagger over je heen.’

Alexander Laufer, onderzoeker op het gebied van technologie en mensenrechten bij Amnesty International Nederland, twijfelt niet aan de goede bedoelingen van de gemeente. Toch is Heerlen nog niet van zijn organisatie af. ‘De overheid heeft een bijzondere verantwoordelijkheid om mensenrechten te beschermen’, zegt hij. ‘Ik zie niet in hoe het feit dat AI veel wordt gebruikt voor allemaal andere dingen een reden is voor Heerlen om AI te gebruiken om criminaliteit te voorspellen.’ Amnesty International Nederland roept Heerlen vandaag op om van het plan af te zien.

Schending van mensenrechten

De kritiek van Amnesty zit erin dat predictive policing niet goed werkt, terwijl het wel leidt tot systematische schendingen van mensenrechten. Problematisch is bijvoorbeeld dat veel aandacht voor een bepaalde wijk leidt tot meer surveillance, wat weer leidt tot meer data over criminaliteit in die wijk, terwijl criminaliteit in andere gebieden buiten beeld blijft. En de wijken die wel in beeld komen, zijn bovengemiddeld vaak wijken met veel mensen met een lage sociaaleconomische status.

‘Uit onderzoeken uit tal van landen blijkt dat er onvoldoende bewijs is dat het effectief is, dus dat het iets oplevert voor rechtshandhaving, terwijl er wel heel veel bewijs is dat het discrimineert’, zegt Laufer. Daarom is het middel volgens Amnesty per definitie disproportioneel. ‘Er is geen scenario denkbaar waarin de inzet van zo'n systeem voldoet aan mensenrechten.’

Privay-by-design

Heerlen is niet over één nacht ijs gegaan met Pulse-Twin. Er is een website die inwoners informeert over het project. De initiatiefnemers beloven op die website dat ze open zijn over de toepassing van algoritmes en het gebruik van data. Maastricht University zit er bovenop om te zorgen dat privacy-by-design wordt toegepast. Er kijkt een ethische commissie mee, de functionaris gegevensbescherming van de gemeente is betrokken, er komt een privacyonderzoek (DPIA) en er wordt gewerkt volgens de ELSA-methodiek.

‘Als aan het einde van de pilot blijkt dat sommige toepassingen niet werken of onverantwoord zijn, gaan we er niet mee verder’, belooft het projectteam op de site. In een document voor de pers schrijft de gemeente: ‘Wanneer wij aan het einde van de pilot concluderen dat Pulse-Twin niet opportuun is, wij zullen stoppen. In tegenstelling tot de wereldwijde AI-ontwikkeling, die door zal blijven gaan.’

Experimenteren op mensen

Laufer is niet onder de indruk. ‘Een pilot betekent nog steeds dat er wordt geëxperimenteerd op echte mensen. De rechten van deze mensen kunnen worden geschonden.’ Het project gebruikt weliswaar geen gegevens van individuen, maar dat neemt niet weg dat individuen wel worden gecontroleerd aan de hand van voorspellingen, benadrukt hij.

Is het voorstelbaar dat de Heerlenaren die zich onveilig voelen in hun stad dat er wel voor over hebben? ‘De bestrijding van criminaliteit is een serieuze zaak die aandacht verdient. Maar hierbij moet de overheid middelen kiezen die in lijn zijn met de mensenrechten en de grondwet. Doe niet alsof de inzet van AI de enige mogelijke manier is om criminaliteit te bestrijden, terwijl we weten dat het niet goed werkt. Dat valt niet te rechtvaardigen.’

Bestookt door de pers

Heerlen wordt dusdanig bedolven onder de mediaverzoeken dat de gemeente een standaarddocument voor de pers heeft opgesteld over Pulse-Twin. ‘Omdat AI op dit moment wereldwijd onder een vergrootglas ligt, merken wij dat Heerlen met een goedbedoelde pilot om de veiligheid en leefbaarheid in wijken te vergroten, hiermee ineens in de schijnwerpers blijft staan’, schrijft een woordvoerder van de burgemeester in het document. ‘[…] Dat in het kader van deze journalistieke belangstelling alle pijlen nu op de pilot Pulse-Twin worden gericht, doorgronden wij. Echter, Heerlen voert een kleine AI-pilot uit voor een veiligere stad. Wij willen én kunnen hiermee niet het lot van de wereldwijde AI-ontwikkeling op ons dragen.’ Aanvragen en interviewverzoeken over het project worden om die reden niet ingewilligd.