Door de opkomst van deepfakes zal de vraag ‘Wat is echt?’ steeds vaker op de politieke en maatschappelijke agenda komen te staan. Deepfakes kunnen worden gebruikt om nepnieuws te verspreiden, verkiezingen te beïnvloeden, realistisch fakebewijs aan rechters voor te leggen en fake pornofilms van vrouwen te maken. Hoewel het ondersoek is uitgevoerd op basis van het Nederlands recht, zijn de bevindingen van de onderzoekers ook in België relevant.
Ieder van deze toepassingen heeft potentieel een zeer grote impact op de samenleving, sociale structuren en de democratische rechtsorde. Dat blijkt uit vandaag verschenen onderzoek van het Tilburg Institute for Law, Technology, and Society (TILT), Tilburg University.
Een deepfake is beeld, geluid of ander digitaal materiaal dat nep is, maar zeer realistisch lijkt. Met machine learning en artificial intelligence wordt nieuwe digitale content gemaakt uit bestaande video’s, stemmen en afbeeldingen. Ook kunnen geheel nieuwe (virtuele) personen of beelden worden gefabriceerd. Kwalitatief goede deepfakes zijn niet of nauwelijks van echt te onderscheiden. Bovendien kan iedereen gratis en gemakkelijk toegang krijgen tot deze technologie. De verwachting van experts is dan ook dat over 5 jaar meer dan 90% van alle online content geheel of gedeeltelijk gemanipuleerd zal zijn. Deepfake-detectietechnologieën zijn beperkt in capaciteit en kunnen slechts een deel van het fakemateriaal automatisch wegfilteren.
Meer regulering en bescherming
De onderzoekers stellen vast dat het huidige recht al veel regels stelt aan deepfakes, maar dat de handhaving van deze regels achter blijft. Om onder andere de handhavingsdruk te verlichten, beschrijven de onderzoekers een groot aantal reguleringsopties. Een daarvan is om het produceren, aanbieden, gebruiken en in bezit hebben van deepfake-technologie te verbieden voor de consumentenmarkt. Het huidige recht legt immers niet de ontwikkeling van deepfake en het aanbieden aan banden, maar het gebruik daarvan voor specifieke doeleinden. Het kwaad is dan al geschied. Daarnaast kan worden overwogen om meer bescherming aan de rechten van overledenen te gegeven, bijvoorbeeld als zij tegen hun zin weer ‘tot leven worden gewekt’ door een ex-partner of een commerciële organisatie met winstbejag.
Maatschappelijk debat
De onderzoekers stellen dat een brede politieke en maatschappelijke discussie omtrent de wenselijkheid van deepfakes noodzakelijk is. Meer bewustwording en regelgeving zou kunnen worden overwogen, vooral ten aanzien van een aantal toepassingsgebieden:
- Verkiezingen kunnen worden beïnvloed middels fakevideo’s, bijvoorbeeld door buitenlandse mogendheden.
- De media kunnen op termijn in de knel komen omdat zoveel digitaal materiaal gemanipuleerd is dat zij zullen moeten kiezen tussen Scylla, ofwel snel publiceren, met het risico om fakenews te brengen, en Charybdis, ofwel wachten tot materiaal op waarheidsgetrouwheid is gecontroleerd, wat zeer veel technische expertise en kosten met zich kan brengen, en het publicatiemoment met dagen kan vertragen.
- Politie, justitie en rechters zullen systemen moeten ontwikkelen om zorg te dragen dat fakemateriaal niet in de rechtszaal wordt ingebracht, om zo onterechte veroordelingen te voorkomen.
- Tot slot, en wellicht het belangrijkste: de schatting is dat het momenteel bij meer dan 95% van alle deepfakes gaat om zogenoemd non-consensual porn. Dat wil zeggen dat er pornovideo’s worden gemaakt en verspreid waarin bijvoorbeeld een vrouw allerhande seksuele handelingen lijkt te verrichten, terwijl zij die niet daadwerkelijk heeft verricht. Het is bekend dat de verspreiding van dergelijke video’s een zeer grote impact kan hebben op het privéleven, de maatschappelijke positie en het zelfbeeld van vrouwen in het algemeen en jonge meisjes in het bijzonder.
Het rapport ‘Deepfakes. De juridische uitdagingen van een synthetische samenleving’ is hier beschikbaar. Auteurs: Bart van der Sloot, Yvette Wagensveld en Bert-Jaap Koops, Tilburg Institute for Law, Technology, and Society.
