Als op sociale media pornografische nepbeelden van de grootste popster ter wereld worden verspreid, waarschijnlijk gefabriceerd met kunstmatige intelligentie, is dat niet alleen een pijnlijk schandaal voor het slachtoffer, haar fans en de digitale platforms. Ook de politiek kan er dan niet meer om heen. En zeker niet in dit Amerikaanse verkiezingsjaar.
Taylor Swift, door Time in december uitgeroepen tot ‘Persoon van het Jaar’ 2023, werd vorige week het tot nu toe prominentste doelwit van een praktijk die sterk in opkomst is. Met behulp van AI worden nepbeelden (vaak van pornografische aard) van bestaande mensen gemaakt en verspreid, zogenoemde deepfakes, zonder dat die mensen daar toestemming voor hebben gegeven of zelfs maar iets vanaf weten.
Door de snelle ontwikkelingen op het gebied van kunstmatige intelligentie is dit het afgelopen jaar veel makkelijker en goedkoper geworden. Bovendien zien de beelden er veel realistischer uit dan eerder mogelijk was.
Via de berichtendienst Telegram kwamen vorige week beelden die leken op naaktfoto’s van popster Taylor Swift in omloop. Toen ze werden overgenomen op X werden de plaatjes massaal bekeken en gedeeld. Eén beeld werd 47 miljoen keer bekeken voordat het account door X werd geblokkeerd. Volgens het bedrijf Reality Defender, dat zich toelegt op het aan het licht brengen van AI in tekst, beeld en geluid, is voor negentig procent zeker welke AI-technologie is gebruikt voor de nepbeelden.
280 miljoen volgers
De kwestie zette een reeks reacties in gang – bij haar fans, binnen de organisatie van X, op Capitol Hill en zelfs in het Witte Huis. In de hoop de nepbeelden op X te verdringen, plaatsten fans massaal échte beelden van hun idool, met de woorden: bescherm Taylor Swift. Zangeres, liedjesmaker en mediafenomeen Swift heeft aanhangers over de hele wereld, op X 95 miljoen en op Instagram 280 miljoen volgers.
Een storm van kritiek stak op, omdat X er maar niet in slaagde de nepbeelden te verwijderen en de accounts die ze verspreidden te blokkeren. Nadat Elon Musk in het najaar van 2022 het toenmalige Twitter had overgenomen, versoepelde hij de regels voor wat geplaatst mag worden, en ontsloeg hij driekwart van het personeel.
Daarbij werd ook de afdeling enorm ingekrompen die zich bezighoudt met moderatie: die erop moest toezien dat gebruikers geen berichten of beelden plaatsen die haat zaaien, geweld bepleiten of andere regels overtreden. Met louter kunstmatige intelligentie en andere technologische middelen zou moderatie volgens Musk ook effectief kunnen zijn.
Maar dit weekend bleek dat daarmee de verspreiding van de nepbeelden van Taylor Swift geen halt toegeroepen kon worden. Onder aanzwellende kritiek, ook uit de politiek, besloot X het zoeken op de zoektermen ‘Taylor Swift’ en ‘Taylor AI’ dan maar tijdelijk te blokkeren – een uitzonderlijke maatregel die inmiddels overigens weer is opgeheven.
Ondertussen had de woordvoerder van het Witte Huis de kwestie „alarmerend’’ genoemd. „We weten dat nonchalante handhaving van de regels vrouwen, en helaas ook meisjes, onevenredig raakt. Zij zijn in de overweldigende meerderheid het doelwit”, zei woordvoerder Karine Jean-Pierre. Ze pleitte voor wetgeving tegen misbruik van AI op sociale media.
Nep-Biden
In oktober kondigde Biden een richtlijn af om de risico’s van deepfakes te beperken, maar in de praktijk blijkt naleving nauwelijks af te dwingen. In politiek Washington leeft de angst dat deepfakes de verkiezingen kunnen beïnvloeden. In de aanloop naar de voorverkiezingen in New Hampshire, eerder deze maand, werden kiezers gebeld met een stem die – dankzij gebruik van AI – sterk op die van Biden leek. De nep-Biden bracht de boodschap dat het beter was maar niet te gaan stemmen. Inmiddels pleiten politici van beide partijen voor wetgeving.
Ondertussen heeft de affaire rond de nepbeelden van Swift nog een andere politieke lading gekregen. Voor de verkiezingen van 2020 sprak de populaire artiest zich uit voor Joe Biden, en Republikeinen vrezen nu dat ze dat dit jaar opnieuw kan doen en zo haar grotendeels jonge publiek tegen Trump kan opzetten. Complotdenkers beweren zelfs dat het hele schandaal een opzetje is om haar in stelling te brengen voor de campagne van Biden. Hoe groot de politieke invloed van Taylor Swift is bleek in september, toen één enkele oproep aan haar volgers op Instagram ertoe leidde dat 23.000 van hen zich registeerden als kiezer – een voorwaarde om in november te kunnen stemmen.
Lees ook
Taylor Swift: de grootste popster op aarde
Ook al voor de affaire rond Taylor Swift was er veel kritiek op sociale media, en in het bijzonder X. Maandag nog maakte staatssecretaris Van Huffelen (Digitale Zaken, D66) bekend dat ze uit onvrede het platform heeft verlaten. Deze woensdag zullen de ceo’s van onder meer X, Meta en TikTok door de commissie van Justitie van de Senaat ondervraagd worden over online seksuele uitbuiting van kinderen. Net een paar dagen vóór die politiek gevoelige bijeenkomst maakte X dit weekeinde bekend alsnog een aparte afdeling op te zetten die voor ‘veiligheid en vertrouwen’ op het platform moet zorgen, waarvoor tot het eind van het jaar 100 mensen zullen worden aangenomen.
Lees ook
Over nepnieuws, cyberaanvallen en het voortbestaan van de mens. „Of we dit overleven hangt af van hoe goed we voor onszelf zorgen.”