De gemeente Amsterdam en expertisebureau over online misbruik Offlimits pleiten voor een wereldwijd verbod op zogeheten nudify-tools. Deze AI-tools maken het mogelijk om van gewone foto's seksueel getinte beelden te maken, zonder toestemming van de rechthebbende of de persoon op de foto.
Amsterdam en experts roepen op tot verbod AI-uitkleedsoftware
De gemeente Amsterdam en expertisebureau over online misbruik Offlimits pleiten voor een wereldwijd verbod op zogeheten nudify-tools.
Volgens het expertisebureau worden deze toepassingen steeds vaker ingezet voor sextortion, cyberpesten en misbruik van minderjarigen. Offlimits en de gemeente Amsterdam roepen daarom het kabinet en de EU op om deze technologie expliciet te verbieden en online ontoegankelijk te maken.
Pesten
Uit onderzoek van Offlimits blijkt dat bijna 40 procent van de jonge mannen tussen de 18 en 25 jaar ooit strafbare of gewelddadige seksuele beelden heeft gezien. 15,6 procent geeft aan beelden van seksueel misbruik van minderjarigen te hebben gezien, realistisch of virtueel, waaronder AI-gegenereerde beelden. Ook uit onderzoek van Pointer onder ruim zestig middelbare scholen blijkt dat pesten met AI-gegenereerde naaktbeelden voorkomt: 24 procent van de scholen herkent dit, en 10 procent geeft aan dat dit vaker dan vijf keer per jaar gebeurt.
Digitale weerbaarbeid
‘Amsterdam investeert in digitale weerbaarheid, maar kinderen kunnen niet opboksen tegen een online omgeving die dit soort misbruik faciliteert’, stelt de Amsterdamse wethouder Alexander Scholtes (ICT en Digitale Stad). ‘Het is onacceptabel dat we door het gemak van nudify-tools seksuele intimidatie en misbruik steeds laagdrempeliger maken. Daarom ondertekent ook Amsterdam dit manifest: wat legaal is, maar aantoonbaar schade veroorzaakt, moeten we durven verbieden.’
Slachtoffers
‘Nudify-tools worden vooral gebruikt om vrouwen en meisjes digitaal te ontkleden’, aldus Offlimits-directeur-bestuurder Robbert Hoving. ‘Het is schandalig dat deze laagdrempelig toegankelijk zijn voor jongeren. Het risico is met nieuwe technologische ontwikkelingen ook veranderd: daders hoeven geen 'echte' beelden meer te hebben, maar kunnen ze doodeenvoudig met AI genereren. De gevolgen voor slachtoffers zijn groot en hebben dezelfde effecten als misbruik met echte beelden.’
Ondanks dat het maken en verspreiden van deepfake-naaktbeelden in Nederland strafbaar kan zijn, zijn nudify-websites en -tools nog altijd eenvoudig op internet te vinden.
Plaats als eerste een reactie
U moet ingelogd zijn om een reactie te kunnen plaatsen.