Advertentie
digitaal / Nieuws

Bestuurders figureren in AI-porno

Verbied de tools waarmee je deepfakeporno maakt, suggereren onderzoekers.

19 maart 2024
Het achterhoofd van een man die naar een blote vrouw (vaag beeld) kijkt
Shutterstock

Bestuurders en Tweede Kamerleden, vrijwel uitsluitend vrouwen, figureren vaak ongevraagd in gemanipuleerde pornovideo's. Een initiatief om dit probleem aan te pakken, strandt tot nu bij het ministerie van Justitie en Veiligheid. In het Verenigd Koninkrijk overweegt men een verbod op de tools waarmee de beelden worden gegenereerd.

Directiesecretaris

Gemeente Loon op Zand
Directiesecretaris

Juridisch Adviseur

Certus Groep in opdracht van Gemeente Bodegraven-Reeuwijk
Juridisch Adviseur

Gemanipuleerde pornovideo's

Het is een onthulling waarvan je wist dat ‘ie zou komen: het bericht van het Algemeen Dagblad dat er volop gemanipuleerde pornovideo’s bestaan waarin bekende Nederlanders, Tweede Kamerleden en leden van het Koninklijk Huis figureren. Ook burgemeester Sharon Dijksma van Utrecht komt erin voor, weet het AD te melden. Politici reageren vol afschuw op sociale media. ‘Misselijkmakend en bovendien strafbaar. Doe alsjeblieft aangifte!’, schrijft demissionair minister Dilan Yesilgöz van Justitie en Veiligheid op X.

Complete sites voor bestuurders

Volgens Bart van der Sloot, universitair hoofddocent privacy en big data aan Tilburg University, zijn er complete pornosites geheel gewijd aan deepfakes van bestuurders, van Sylvana Simons tot Sigrid Kaag. ‘Het is vrijwel altijd gericht tegen vrouwen,’ zegt hij. ‘Het komt vaak voort uit misogenie, als een manier om vrouwelijke politici te ondermijnen. Een vrouw wordt gereduceerd tot lustobject of belachelijk gemaakt.’ Zit maar eens uiterlijk onaangedaan een raadsvergadering voor wanneer je vermoedt dat iedereen ‘dat filmpje’ heeft zien langskomen.

Het is een manier om vrouwelijke politici te ondermijnen.

Bart van der Sloot, universitair hoofddocent privacy en big data

Politiek wapen

AI-porno wordt soms ook bewust als politiek wapen ingezet. Het overkwam de Indiase journalist en moslima Rana Ayyub. Haar tegenstanders verspreidden een deepfakepornovideo van haar via WhatsApp en wisten haar daarmee succesvol monddood te maken.

Geen prioriteit?

Van der Sloot maakt zich het meeste zorgen over schoolgaande meisjes die in toenemende mate met het fenomeen te maken krijgen. Het probleem werd door hem en zijn collega’s al een aantal jaar geleden gesignaleerd en vervolgens opgepakt door Tweede Kamerleden die voor een verbod pleitten. Maar volgens hem stokt het tot nu toe bij de ambtenaren op het ministerie van Justitie en Veiligheid (J&V). ‘We tasten in het duister over het waarom. Mogelijk beschouwt men het onderwerp niet als een prioriteit.’ Een woordvoerder van het ministerie van J&V laat weten dat haar collega’s vandaag druk zijn met de behandeling van de Wet seksuele misdrijven in de Eerste Kamer. Een reactie vanuit het ministerie volgt daarom later.

Copyright pornomakers geschonden

Weliswaar is het strafrechtelijk verboden om dit soort beelden te delen (het valt onder wraakporno en vaak is er ook nog sprake van  smaad en identiteitsfraude), maar eenmaal online is het vrijwel onmogelijk voor vrouwen om de beelden weer offline te krijgen. Deepfake-expert Nina Schick merkt in haar boek Deepfakes and the Infocalypse – What You Urgently Need to Know (2020) op dat een vrouw nog de beste kans maakt om een deepfakepornovideo te laten verwijderen door erop te wijzen dat het copyright van de filmstudio wordt geschonden.

Verbod op de tools

Hoe is het probleem op te lossen? In hun onderzoek uit 2021 suggereren Van der Sloot en zijn collega’s onder meer om pornosites met deepfakes te verbieden, of om de apps en websites te verbieden waarmee iedereen dergelijke deepfakes kan maken. ‘Je moet het aan de voorkant reguleren,’ zegt Van der Sloot. ‘Met sommige apps is één foto van een gekleed meisje genoeg om direct een afbeelding van een naakt meisje te generen. Een verbod kun je nooit helemaal handhaven, maar het helpt wel degelijke als dergelijke apps uit de appstore worden verwijderd. Natuurlijk kunnen mensen nog terecht op het Darkweb of Telegram, maar 90 procent ben je kwijt. En het geeft een belangrijk signaal.’ Naar schatting bestaat 95 procent van de deepfakes uit porno waarin vrouwen ongewild figureren.

In Groot-Brittannië overweegt de Labourpartij om een dergelijk voorstel in te dienen. Het voorstel reikt verder dan alleen een verbod op nudification tools; het verplicht ontwikkelaars van algemene generatieve AI-toepassingen om voorzorgsmaatregelen te nemen zodat hun product niet wordt gebruikt voor zulke beelden of andere schadelijke deepfakes.

Plaats als eerste een reactie

U moet ingelogd zijn om een reactie te kunnen plaatsen.

Advertentie