Terwijl Facebook en andere sociale media bezweren dat ze hun uiterste best doen om desinformatie, nepnieuws en haatdragende berichten van hun platforms te weren, groeit het verzet tegen hun inspanningen. Rechtse politici in de VS klagen steeds luider dat Big Tech, onder het mom van veiligheid en fatsoen, in feite censuur bedrijft. Censuur van rechtse en conservatieve meningen, wel te verstaan. De zogeheten ‘content moderatie’ – het reguleren van wat online wel en niet gezegd kan worden – is hierdoor in een kwade reuk komen te staan. De gevolgen daarvan zijn in de praktijk ook al merkbaar.
Sociale media zijn begonnen de afdelingen die zich met moderatie bezighouden in te krimpen – mede om daarmee geld te besparen. Elon Musk, die zich graag absolutist van de vrije meningsuiting noemt, laat bij X uitingen en gebruikers toe die geblokkeerd werden toen het platform nog Twitter heette.
In het Amerikaanse Congres, in de deelstaten en voor het Hooggerechtshof is uit naam van de vrije meningsuiting een felle strijd ontbrand over de pogingen van zowel de sociale media als de overheid om platforms te vrijwaren van onjuiste, misleidende en hatelijke berichten. Want brengen die pogingen het internet ‘veilig’ te houden, niet het risico met zich mee dat ook berichten verwijderd worden die alleen maar omstreden zijn?
Niet alleen rechtse politici maken zich daar zorgen over, maar ook juristen en organisaties die op de bres staan voor de vrijheid van meningsuiting. Er staat veel op het spel. Het vrije woord, zegt de één. De integriteit van het democratische proces, zegt de ander. Ook de bescherming van de volksgezondheid tegen complottheorieën, en de bescherming tegen racisme en andere vormen van haat en discriminatie.
‘Sinistere groep diplomaten’
Omdat 2024 een verkiezingsjaar is in veel landen en in de Europese Unie, kan het vrij laten circuleren van onjuiste informatie (misinformatie), of opzettelijk onjuiste informatie (desinformatie), grote gevolgen hebben. In de Verenigde Staten, waar in november presidentsverkiezingen worden gehouden, gaat oud-president Trump voor in de strijd. Achter de content moderatie zit volgens hem „een sinistere groep bureaucraten van de ‘diepe staat’, tirannen uit Silicon Valley, linkse activisten en corrupte nieuwsbedrijven die erop uit zijn het Amerikaanse volk te manipuleren en tot zwijgen te brengen,” zei hij aan het begin van zijn verkiezingscampagne: „Het censuurkartel moet ontmanteld en vernietigd worden.”
Trump werd begin 2021, toen hij nog nét president was, op Twitter, Facebook en YouTube zélf tot zwijgen gebracht nadat zijn aanhangers het Capitool hadden bestormd – nadat ze door hem waren aangemoedigd met leugens over de verkiezingsuitslag. Na twee jaar hebben de platforms Trumps schorsing weer opgeheven. De tijdelijke verbanning van Trump en ook omstreden ingrepen van fact checkers tijdens de corona-pandemie, hebben de weerstand tegen content moderatie flink aangewakkerd. De gestaag oplopende verkiezingskoorts draagt er verder aan bij.
De Amerikaanse deelstaten Florida en Texas hebben wetten aangenomen die de grote sociale media drastisch beperken in hun macht om te bepalen wat wel en wat niet op hun platform mag blijven staan. De deelstaten Louisiana en Missouri proberen bij de rechter gedaan te krijgen dat het de overheid verboden wordt om sociale media te wijzen op misleidende informatie op hun platforms en ze aan te sporen die weg te halen. Zulke overheidsbemoeienis zou de vrijheid van meningsuiting bedreigen.
Het Hooggerechtshof buigt zich nu over de ingrepen van deze vier Republikeinse deelstaten. Hebben de platforms niet, net als een krant of een tv-station, het recht en de vrijheid om zelf uit te maken wat ze de wereld in sturen? vragen critici zich af. En als de regering merkt dat groepen met leugens worden opgehitst, mogelijk vanuit het buitenland, moet haar dan echt verboden worden de platforms daarvoor te waarschuwen?
Voor de zomerreces moet het Hof uitspraak doen in deze zaken. Dat kan verstrekkende en langdurige gevolgen hebben voor de grenzen van de online uitingsvrijheid.
Na de Amerikaanse presidentsverkiezingen van 2016, waarbij onder meer sprake was van Russische beïnvloeding via sociale media, versterkten Facebook en andere platforms hun teams voor content moderatie. Aanvankelijk met steun van zowel Republikeinen als Democraten. Maar door de vele miljoenen berichten, foto’s en filmpjes die dagelijks geplaatst worden is effectieve moderatie een haast ondoenlijke klus. De platforms zetten daarvoor behalve mensen vooral ook geautomatiseerde systemen in, die berichten kunnen herkennen die in strijd zijn met de wet, of met de richtlijnen voor gebruikers van de platforms.
De platforms zelf zitten er soms mee in hun maag dat zij complexe afwegingen rond de vrijheid van meningsuiting moeten maken, waar ze als technologiebedrijven van huis uit niet voor zijn toegerust. Meta, moederbedrijf van Facebook en Instagram, heeft daarom sinds ruim drie jaar een onafhankelijke Oversight Board. Deze raad van beroep kan moderatiebeslissingen van Meta waar gebruikers bezwaar tegen maken terugdraaien. Bovendien adviseert de Oversight Board het concern over aanpassingen van zijn moderatie beleid.
Doe eerst de Orbán-test
Op X kunnen gebruikers die zich daarvoor hebben aangemeld berichten die mogelijk misleidend zijn voorzien van opmerkingen, context of waarschuwingen. Als voldoende andere gebruikers die ‘community notes’ waarderen, worden ze voor iedereen zichtbaar.
Maar dergelijke initiatieven zijn beperkt in omvang en effect – en niet verplichtend voor de platforms. Verschillende overheden, met de Europese Unie voorop, zijn daarom begonnen sociale-mediabedrijven wettelijke regels op te leggen, die desinformatie en online haat moeten tegengaan. Maar ook daaraan kleven risico’s, waarschuwt jurist David Kaye, hoogleraar aan de Universiteit van Californië en voormalig VN-rapporteur voor vrijheid van meningsuiting, dit voorjaar in een artikel in het blad Foreign Affairs.
Als het reguleren van sociale media niet zorgvuldig en met een zekere terughoudendheid gebeurt, stelt Kaye, „dan kan het gebruikt worden om ongewenste meningen te onderdrukken, gemarginaliseerde groepen te censureren, de toegang tot informatie te beperken en privacy en individuele veiligheid te verminderen. In verkeerde handen kunnen zulke regels leiden tot misbruik en censuur.”
In Brussel wordt daarom geopperd, schrijft hij, nieuwe wetsvoorstellen voor ze aangenomen worden eerst te onderwerpen aan een zogenoemde ‘Orbán-test’: de wetgevers zouden zich moeten afvragen of ze de wet nog steeds een goed idee vinden als toezicht op de naleving ervan in handen zou zijn van de autocratische premier van Hongarije.
Als voorbeeld van hoe het mis kan gaan, noemt Kaye een dreigende brief die Europees Commissaris Thierry Breton afgelopen zomer aan sociale media stuurde. Als ze „hatelijke berichten” bleven plaatsen over de rellen die toen woedden in Parijse steden, zouden ze boetes tegemoet kunnen zien of zelfs „verbanning van ons grondgebied”. „Dat gaat veel verder dan de net in de EU in werking getreden Digitale Dienstenwet (DSA)”, zegt Kaye in een telefonische toelichting. Hij waarschuwt voor het gevaar dat de sociale media door de „intimiderende taal” van politici als Breton voor de zekerheid méér berichten gaan blokkeren dan nodig is.
In 2017 begon Brussel zijn aandacht op desinformatie te richten. Aanvankelijk wilden leden van de Europese Commissie de Big Tech bedrijven heel precies en met strenge regels gaan voorschrijven hoe ze met desinformatie moeten omgaan. Kaye: „Maar al snel beseften ze dat zo’n aanpak op gespannen voet staat met grondrechten als vrije meningsuiting, en dat het ook heel moeilijk is om bij wet vast te leggen wat desinformatie is. Daarom is met de Digitale Dienstenwet gekozen voor een lichtere benadering. De platforms krijgen niet voorgeschreven wat ze wel en niet moeten blokkeren, maar wel dat ze gedragscodes moeten hebben en transparant moeten zijn over hoe ze hun moderatie aanpakken.”
De omstreden wetten in Florida en Texas, die de vrijheid van sociale media om berichten te verwijderen sterk aan banden leggen, laten volgens Kaye zien dat „de lang verwachte afrekening met de internet-platforms” in volle gang is. Maar ondanks alle schadelijke kanten van sociale media, benadrukt hij, blijven het belangrijke bronnen van informatie en debat voor mensen van alle leeftijden. Dat mag niet sneuvelen door „goedbedoelde pogingen” het internet veilig te maken.
Kaye wijst erop dat sommige sociale media, zoals Facebook en Instagram, de afgelopen jaren veel beter zijn geworden in het modereren van hun platforms. „En Twitter deed het ook heel goed – tot Elon Musk het overnam.”
