Vorige week ging het na een artikel in het AD opeens op alle zenders over BN’ers die slachtoffer worden van deepfake porno: seksfilmpjes waarin met behulp van AI het gezicht van iemand anders gemonteerd is. Hoewel deze ‘seksfakes’ al langer bestaan, zette die media-aandacht het onderwerp op de kaart, net zoals dat in januari in de VS gebeurde door deepfake porno met zangeres Taylor Swift.
De impact op slachtoffers van seksfakes kan vergelijkbaar zijn met die van echte seksvideo’s waarin zij te zien zijn en die tegen hun zin online gezet zijn. Slachtoffers kunnen last krijgen van paniekaanvallen of bang worden over straat te gaan. Ook kan het voor hen aanvoelen alsof ze fysiek verkracht zijn.
Tegelijk lijkt het fenomeen lastig te bestrijden, vooral nu seksfakes steeds makkelijker te maken zijn met AI. Dat kan leiden tot een fatalistische houding, alsof er nu eenmaal niets tegen te doen valt. Maar is dat wel echt zo? NRC sprak deskundigen die er anders over denken. Er zijn verschillende manieren, voor individuele slachtoffers en voor de samenleving als geheel, om productie en verspreiding van seksfakes tegen te gaan.
Ten eerste is het belangrijk dat slachtoffers aangifte doen, zegt woordvoerder Mireille Beentjes van Politie Nederland. „Om wat voor vorm van criminaliteit dan ook goed te kunnen bestrijden, is het cruciaal dat we het probleem goed in beeld hebben. Daar begint het mee. Als de politie de misdaden niet ziet, kan ze er ook niet tegen optreden.”
Hoe meer aangiften de politie in handen heeft, hoe meer gecoördineerde actie kan plaatsvinden. Dit gebeurt nu al met de seksfakes van bekendheden, aldus Beentjes. „Alle deepfakezaken met BN’ers gaan nu naar de cyberofficier in Den Haag, ongeacht waar de aangifte gedaan is.”
De politie is druk bezig, zegt Beentjes, om expertise te ontwikkelen over alle nieuwe vormen van criminaliteit die ontstaan in de huidige AI-revolutie. „We hebben ook deepfake-experts.”
Vervolgd en veroordeeld
WNL-presentatrice Welmoed Sijtsma deed aangifte tegen de dader die een seksfake van haar maakte, nadat zij hem in de serie Welmoed en de sexfakes had opgespoord. Hij werd vervolgd en vorig jaar veroordeeld tot een voorwaardelijke taakstraf. Ook werd in die uitspraak de seksfake door de rechter onder het delict ‘wraakporno’ geschaard.
„Dat betekent dat het nu al strafbaar is om deepfakeporno van iemand te maken”, zegt advocaat Richard Korver, voorzitter van slachtofferadvocaten-netwerk LANGZS, ook al staat de term deepfake niet in de wet. „De rechter heeft in de zaak van Welmoed Sijtsma gezegd: zo’n seksvideo kan ook fake zijn, dat maakt niet uit. Wat telt is de schending van de seksuele privacy en identiteit van het slachtoffer. Seksfakes zijn door die uitspraak dus strafbaar geworden in het Nederlandse recht, ook al staat dit delict nog niet in een wetboek.”
De uitspraak in de zaak van Welmoed Sijtsma laat zien hoe belangrijk het is aangifte te doen, vindt politiewoordvoerder Beentjes. „Aangifte kan leiden tot rechtspraak, die bepalend is voor andere zaken.”
Rechterlijke uitspraken zijn des te meer van belang omdat dit soort technologie zich snel ontwikkelt, zegt advocaat Olaf Trojan, gespecialiseerd in mediarecht. Nieuwe wetgeving kan daardoor alweer achterhaald zijn als ze eenmaal in werking treedt. „Rechtspraak is beweeglijker. Dat heeft voordelen bij technologie die zich snel ontwikkelt.”
Politiewoordvoerder Beentjes ziet nog andere aanknopingspunten dan wraakporno in de wet. „Je kunt deepfakes ook als smaad zien of als laster, of als inbreuk op portretrecht. De Autoriteit Persoonsgegevens kijkt naar privacy. Dat kan een weg zijn. Zij kunnen een boete opleggen aan een platform dat seksfakes verspreidt.”
Onrechtmatige daad
Ook een civiele procedure is mogelijk, zegt Trojan. „Als je vindt dat iemand jegens jou onrechtmatig gehandeld heeft, kun je een civiele rechtszaak starten. Er staat gewoon een bepaling in het burgerlijk wetboek die dat mogelijk maakt en die is heel breed geformuleerd: onrechtmatige daad. Het is aan de rechter om in te vullen of daar sprake van is in een individuele zaak. Mag je iemand een ‘gecremeerde kroket’ noemen? (Die benaming gebruikte juice-vlogger Yvonne Coldeweijer om naar Rachel Hazes te verwijzen, red.) Mag je zeggen dat iemand aan het gas moet? Dat iemand een oplichter is?”
Zo bekijkt de rechter per geval wat onrechtmatig is. En zo geldt dat ook voor deepfakes, zegt Trojan. „Het hangt ervan af. Als het een satirische deepfake van een politicus is zal de rechter het vermoedelijk niet als onrechtmatig zien, maar wel als het een pornografische deepfake is die iemands seksuele privacy en identiteit schendt.”
Helaas is het niet makkelijk de makers van seksfakes te vinden: zij weten doorgaans hun identiteit online goed te verbergen. Je kunt wel proberen de IP-adressen te achterhalen van de computers waarmee de video’s geüpload zijn. „Onder bepaalde omstandigheden kun je die opeisen bij de rechter”, aldus Trojan. „En dan moet het platform die geven.”
Maar dan ben je er niet. „Een IP-adres is nog geen mens van vlees en bloed. Zo’n video kan ook geüpload zijn vanuit een of ander internetcafé.”
Tropisch eiland
Het is dus moeilijk individuele daders op te sporen. „Je kunt beter de partijen aanpakken die de verspreiding faciliteren”, aldus Korver.
Wat dat dan weer lastig maakt is dat de platforms waarop seksfakes van bijvoorbeeld BN’ers te zien zijn, meestal in het buitenland zitten. „Die bedrijven zijn bijvoorbeeld gevestigd op een tropisch eiland waar de Nederlandse rechter niet bevoegd is”, zegt Korver.
Toch ziet hij een optie. „Het kan zijn dat het platform gehost wordt in een ver land, maar dan kunnen we nog steeds in ons land zo’n website uit de lucht halen. In bepaalde Aziatische landen, zoals Maleisië, doen ze dat bijvoorbeeld met pornosites.”
Dat gaat wel erg ver, vindt Trojan. „Zoiets gebeurt alleen in landen zoals China waar geen vrij internet bestaat.”
Lees ook
Drie vragen over deepfake porno
Een andere optie is de politie in het land waar het platform zit om medewerking vragen. „En als wij in Nederland al weten hoe je als politie en OM effectief kunt optreden, kan dat alleen maar meehelpen”, zegt Beentjes. „Je kunt veel bereiken via samenwerking en kennisuitwisseling.”
Korver vindt dat ook. „Het bestrijden van dit soort internetcriminaliteit moet uiteraard ook internationaal gebeuren. Dus nee, vanuit Nederland kun je niet alles doen. Maar dat betekent nog steeds niet dat er helemaal niks tegen te beginnen is.”
Gezichtsherkenning
Ook via niet-juridische wegen kun je iets tegen seksfakes doen, schetst Korver, bijvoorbeeld door de verspreiding te beperken. „Je kunt Google vragen ervoor te zorgen dat de seksfake niet via hun zoekmachine te vinden is. Dat scheelt al een stuk bij de vindbaarheid. En je kunt een platform vragen om via gezichtsherkenning foto’s en video’s met jouw gezicht op te sporen en weg te halen. Zo kun je tenminste de verspreiding via sociale media tegengaan.”
Verder moet je proberen de profiterende partijen in de portemonnee te raken, zegt Korver. Dat kan via bestuurlijke boetes voor de bedrijven. „De overheid kan forse boetes uitdelen”, zegt Trojan. „Kijk bijvoorbeeld naar de Autoriteit Consument en Markt. Ook de Europese overheid kan zoiets doen.”
Internet opschonen
Dat kan bijvoorbeeld vanuit de nieuwe Europese Digital Services Act (DSA), die in februari in werking is getreden en die bedoeld is om het internet op te schonen: strenge regels voor platforms om te stimuleren dat ze de verspreiding van schadelijke content tegengaan. Dat kan gaan om desinformatie maar ook om seksfakes.
„Als platforms geïnformeerd worden over schadelijke content, moeten ze het eraf halen”, zegt Trojan. De grootste platforms, zoals Facebook, moeten ook preventieve maatregelen treffen tegen illegale content, zo schrijft de DSA voor.
Verder verplicht de DSA platforms tot een meldpunt: het moet mogelijk zijn illegale content te melden. Daar kunnen mensen terecht die bijvoorbeeld slachtoffer zijn van een seksfake. En zo bevat de DSA nog meer regels die de verspreiding van illegale content moeten tegengaan. Bedrijven die zich er niet aan houden kunnen fikse boetes krijgen: tot zes procent van de jaaromzet, wat bij grote bedrijven in de miljarden kan lopen.
De DSA is nog maar één wettelijk kader van waaruit de overheid bedrijven kan beboeten. En behalve de platforms waarop de filmpjes te zien zijn, kunnen ook de betaalbedrijven op de bon gegooid worden waar ze mee samenwerken. Als iemand voor het zien van een deepfake betaalt, zit er een fintechbedrijf tussen dat die betaling faciliteert. De overheid kan zo’n bedrijf beboeten. „Als burger kun je het betaalbedrijf aansprakelijk stellen via een civiele procedure”, zegt Trojan, „als je vindt dat het onrechtmatigheden faciliteert. Dat is bijvoorbeeld al wel gebeurd bij illegale filmplatforms die inbreuk op auteursrecht faciliteren.”
Betaalplatforms
Betaalbedrijven hebben gedragsregels. Ze willen niet dat je via hun technologie kunt betalen voor kinderporno of wat voor porno dan ook die zij volgens hun eigen ethiek te ver vinden gaan. Daarmee hebben betaalplatforms veel macht over de pornowereld.
„Je kunt dus maatschappelijke druk uitoefenen op zo’n betaalbedrijf”, zegt Trojan, „om hun code of conduct aan te scherpen en deepfakeporno naast kinderporno op de zwarte lijst te zetten.”
Nog weer een andere mogelijkheid is het makkelijker maken de daders te achterhalen. Tot nu toe wordt de anonimiteit van mensen die zich op het internet misdragen, beschermd door de Europese rechter. Zo oordeelde het Europese Hof voor de Rechten van de Mens (EHRM) twee jaar geleden in een Oostenrijkse zaak dat een platform de IP-adressen van twee anonieme haatzaaiers niet hoefde prijs te geven.
„Je kunt je afvragen: moet het internet wel zo anoniem blijven?” zegt Trojan. „Het EHRM vindt het belangrijk dat iedereen gehoord kan worden. Anoniem reageren, zo luidt de redenering, is goed voor de democratie. Maar het tij begint nu te keren vanwege alle ellende die we zien op het internet. Kranten zijn gestopt met reacties onder artikelen. En ik zie toenemende druk op platforms om prijs te geven wie klanten zijn. Dat gaat over IP-adressen en NAW-gegevens.”
De tools aanpakken
Daarnaast is het ook belangrijk betere wetgeving te maken, zegt Trojan, maar die moet niet te nauw geformuleerd zijn. „Nu de technologie zich zo snel ontwikkelt moet je zorgen dat er een brede vangnetbepaling (een bepaling die gevallen regelt die niet elders in wetgeving geregeld zijn, red.) in de wet staat waar rechters ook in de toekomst mee uit de voeten kunnen.”
Ook de hostingprovider die een website met illegale content host kan aansprakelijk gesteld worden of door de overheid beboet worden. Maar sommige techexperts vinden dat je het probleem helemaal aan het begin van de keten moet aanpakken: bij de techbedrijven die de tools ontwikkelen en verkopen waar deepfakes mee gemaakt worden.
Een recente petitie, „Disrupting the Deepfake Supply Chain”, roept op om techbedrijven via wetgeving te dwingen hun technologie zodanig te beveiligen dat je er geen schadelijke deepfakes mee kunt maken.
„Ik vind dat een mooi streven”, zegt Korver, „maar het lijkt me erg ingewikkeld. Hoe ga je dan onderscheid maken tussen schadelijk en onschadelijk? Dan kom je in een grijs gebied.”
Taylor Swift nudes
Toch kan maatschappelijke druk helpen om een techbedrijf de juiste kant op te duwen. Dat bleek in de zaak rond Taylor Swift, die de gemoederen in de VS begin dit jaar flink bezig hield. De seksfakes met Swift bleken gemaakt te zijn met de tool Designer van Microsoft.
Het techbedrijf beweert zijn tool inmiddels beter beveiligd te hebben tegen het maken van seksfakes met beroemdheden zoals Swift. Dat gaat bijvoorbeeld over de spelling van de naam. Wie „Taylor Swift nude” invoert krijgt nul op het rekest, maar met alternatieve spellingen viel deze blokkade te omzeilen. Dit heeft Microsoft nu naar eigen zeggen verder aangescherpt, al zal dat niet-beroemde slachtoffers van deepfakes niet helpen. Verder zegt de techreus een team te hebben dat werkt aan het tegengaan van schadelijke deepfake-toepassingen.
Lees ook
Nepporno Taylor Swift overspoelde het internet: fans, X en het Witte Huis moesten wel reageren
De productie van deepfaketechnologie door bedrijven zoals Microsoft valt niet onder de strengste regels van de nieuwe AI-verordening die deze maand werd goedgekeurd door het Europese Parlement. Deepfakes zijn in de Europese AI Act namelijk, tezamen met AI-chatbots zoals ChatGPT en andere generatieve AI, aangemerkt als AI met „beperkt risico”. Dat betekent minder strenge regels dan „high risk”, zoals medische AI en gezichtsherkennende AI.
Een misser, vindt hoogleraar internetrecht Cristina Vanberghen van Stanford University, tevens adviseur van de Europese Commissie. „Deepfakes kunnen zeer schadelijke impact hebben en zouden als ‘high risk’ beschouwd moeten worden”, schreef ze recent in een opiniestuk.
De Europese AI Act verplicht makers van deepfakes wel om hun content te watermerken zodat voor de consument duidelijk is dat het om AI-gegenereerde content gaat. Maar kijkers van seksfakes weten meestal toch al dat de video’s, die ze vaak op gespecialiseerde seksfakesites bekijken, nep zijn. Dat belet hen niet ernaar te kijken.
Geen fatalisme
Hoe moeilijk het ook kan zijn iets tegen seksfakes te doen, fatalisme is wat Korver betreft geen optie. „Dat doen we toch ook niet bij kinderporno?”
Beentjes sluit zich daarbij aan. „Het is een relatief nieuw fenomeen dat we natuurlijk beter in beeld moeten krijgen. Tegelijkertijd moeten we niet wachten, maar dit direct werkenderwijs aanpakken. Eenvoudige oplossingen zijn er niet, iedereen heeft hier iets in te doen vanuit diens eigen rol en verantwoordelijkheid.”
Geen enkele methode zal het verschijnsel weten uit de roeien. „Maar verschillende sporen kunnen naast elkaar lopen”, ziet Beentjes. „En zo kun je daders en facilitators optimaal ontmoedigen en afschrikken. Seksfakes zijn een maatschappelijk probleem waarvan we moeten zeggen: ‘Dit is helemaal niet oké.’ Je kunt vanuit je verontwaardiging veel bereiken.”
