Advertentie
digitaal / Nieuws

Onderzoek: deepfakes kunnen samenleving ontwrichten

‘Deepfakes’ kunnen op meerdere manieren een zeer grote impact hebben op de samenleving: ze kunnen verkiezingen beïnvloeden, gebruikt worden voor nep-porno en zorgen voor nepnieuws. Tilburg University onderzocht deze techniek, waarmee met behulp van machine learning en kunstmatige intelligentie bijvoorbeeld zeer realistische nepvideo’s worden gemaakt, en concludeert dat ze op termijn de samenleving kunnen ontwrichten.

06 januari 2022
Deepfake-shutterstock-2028945926.jpg

‘Deepfakes’ kunnen op meerdere manieren een zeer grote impact hebben op de samenleving: ze kunnen verkiezingen beïnvloeden, gebruikt worden voor nep-porno en zorgen voor nepnieuws. Tilburg University onderzocht deze techniek, waarmee met behulp van machine learning en kunstmatige intelligentie bijvoorbeeld zeer realistische nepvideo’s worden gemaakt, en concludeert dat het op termijn de samenleving kan ontwrichten.

Moeizame detectie

Met deepfakes kunnen geheel nieuwe, virtuele personen worden gecreëerd. Iedereen kan gratis en gemakkelijk toegang ertoe krijgen. ‘De verwachting van experts is dan ook dat over 5 jaar meer dan 90 procent van alle online content geheel of gedeeltelijk gemanipuleerd zal zijn’, schrijven de onderzoekers. Bestrijding is niet makkelijk: ‘Deepfake-detectietechnologieën zijn beperkt in capaciteit en kunnen slechts een deel van het fakemateriaal automatisch wegfilteren.’

 

Veel moeite

Er zijn belangrijke aandachtsgebieden. Bij 95 procent van alle deepfakes gaat het om nep-porno waarbij een vrouw seksuele handelingen lijkt te verrichten die zij niet daadwerkelijk heeft verricht. Verder kunnen verkiezingen worden beïnvloed en media in de problemen brengen (die moeten kiezen tussen snel publiceren en met veel moeite bepalen of iets echt is). Politie, justitie en rechter zullen moeten voorkomen dat nepmateriaal in de rechtbank belandt. Er moet een breed maatschappelijk debat komen, stellen de onderzoekers, en meer bewustwording en regelgeving kunnen worden overwogen.

 

Bezit verbieden

Er zijn veel regels over deepfakes, maar de handhaving blijft achter. De onderzoekers noemen, om de handhavingsdruk te verlichten, als mogelijke maatregel het verbieden van het produceren, aanbieden, gebruiken en bezitten van de technologie. Het huidige recht verbiedt namelijk  alleen het gebruik voor specifieke doeleinden. ‘Het kwaad is dan al geschied.’

Reacties: 1

U moet ingelogd zijn om een reactie te kunnen plaatsen.

Wim Sijses / Functioneel beheerder
Misschien is het handig om dan te benoemen welke technologie bedoeld wordt. Want is het bezit en gebruik van Adobe of welke geavanceerde software dan ook strafbaar?
Uw emailadres wordt enkel gebruikt om mogelijk contact met u op te nemen naar aanleiding van uw bericht en is enkel zichtbaar voor de redactie.
Advertentie