‘Radicale online content moet beter gemodereerd worden om aanslag te voorkomen’

Zonder internet hadden deze verdachten elkaar waarschijnlijk nooit ontmoet, zegt terrorismeonderzoeker Elanie Rodermond. Dan waren ze mogelijk nooit zo geradicaliseerd dat ze volgens justitie een terroristische aanslag zouden hebben beraamd. Rodermond heeft het over de vier tieners uit België die in maart werden opgepakt op verdenking van het online voorbereiden van een aanslag. Volgens het Belgische OM zouden de jongeren – van wie een vijftien jaar oud was – een jihadistisch motief hebben.

Deze zaak toont hoe krachtig internet en sociale media zijn wanneer het gaat om het samenbrengen van aanhangers van extremistisch gedachtengoed, vindt Rodermond, universitair hoofddocent aan de Vrije Universiteit Amsterdam en onderzoeker aan het Nederlands Studiecentrum Criminaliteit en Rechtshandhaving (NSCR).

Samen met Charlie Stoeldraaijers (junior-onderzoeker aan de VU) en het NSCR onderzocht Rodermond, in opdracht van het Wetenschappelijk Onderzoek- en Datacentrum (WODC, een kennisinstituut van het ministerie van Justitie) hoe extremistische groepen online rekruteren. Daartoe maken ze gebruik van allerlei populaire sociale mediaplatforms, zo blijkt uit hun rapport, dat woensdag is gepubliceerd.

De onderzoekers richtten zich op extreemrechtse, jihadistische, anti-institutionele en extreemlinkse groepen, een selectie die ze baseerden op de recente Dreigingsbeeld Terrorisme Nederland en AIVD-jaarverslagen. Ze analyseerden zeven openbare online groepen op Facebook en Telegram.

Platforms

Het online domein biedt veel mogelijkheden voor extremistische groeperingen, vertellen Rodermond en Stoeldraaijers. Deze groepen zitten op veelgebruikte platforms – van Facebook en YouTube tot berichtendienst Telegram en zelfs de game Roblox. Vooral Telegram is populair, omdat het gebruikers meer privacy biedt in versleutelde gesprekken en minder actief content modereert. Mainstreamplatforms als Facebook, YouTube en Instagram daarentegen zijn al een aantal jaren bezig met het modereren en reguleren van online materiaal. Wel benadrukken Rodermond en Stoeldraaijers dat deze mainstreamplatforms nog steeds een cruciale rol spelen in online radicalisering, want veel mensen komen daar voor het eerst met extreem gedachtengoed in aanraking.

Naast de Belgische terreurverdachten gebruiken ook andere extremisten besloten chatapps als Telegram om plannen te maken.

Bijvoorbeeld de rechts-extremisten die in 2023 tijdens de jaarwisseling antisemitische teksten projecteerden op de Erasmusbrug in Rotterdam. Aanhangers van de rechtsextremistische White Lives Matters-Telegramgroep claimden dat ze achter de actie zaten. Op datzelfde platform werd opgeroepen tot nieuwe acties.


Lees ook

Wie projecteerde de racistische teksten op de Erasmusbrug?

De geprojecteerde teksten op de Erasmusbrug terwijl het vuurwerk de lucht inknalde.

Ook de veiligheidsdiensten zien dat internet een belangrijke rol speelt bij radicalisering en terrorisme. Zo staat in het laatste AIVD-verslag dat sommige verijdelde aanslagen waren bedacht door online gevormde groepen. In het meest recente Dreigingsbeeld Terrorisme Nederland benoemt de NCTV dat de online wereld bijdraagt aan radicalisering, netwerkvorming en het aantrekken van jongeren met een al bestaande ‘geweldslust en drang om te choqueren’.

Kameraadschap

Charlie Stoeldraaijers zegt dat werving vaak begint op een openbare plek. „Over het algemeen zoekt een individu eerst zelf naar een openbare groep met berichten die extreem gedachtengoed bevatten”, legt ze uit. Daar vinden gelijkgestemden elkaar en delen ze ideeën. Er wordt in de beginfase niet heel expliciet over geweld gesproken.

Een dergelijke openbare groep wordt door de extremisten gepresenteerd als een plek waar mensen informatie kunnen uitwisselen en kameraadschap kunnen vinden, zegt Rodermond. Het gaat vaak niet om terrorisme, maar om groepsvorming. Extremistische groepen gebruiken in deze beginfase van rekrutering sociale cohesie en gedeelde ideologieën om nieuwe leden te werven voor extremere besloten groepschats, op bijvoorbeeld Telegram. Een individu komt in de openbare groep al snel een linkje tegen naar die radicalere chats.

De onderzoekers interviewden professionals op het gebied van radicalisering en rekrutering, onder wie jongerenwerkers en mensen van de politie, AIVD en het Landelijk Steunpunt Extremisme. „Ze vertelden dat nieuwkomers getest worden”, zegt Rodermond. Aspirant-leden moeten bewijzen dat ze achter een bepaald extremistisch gedachtengoed staan, door bijvoorbeeld heftig beeldmateriaal te kijken zonder af te haken. Pas als iemand echt serieus blijkt, mag diegene lid worden van de extremere harde kern.

Veel extremistische groepen organiseren offline bijeenkomsten, zoals lezingen, benefietavonden en sportevenementen. Sommige mensen gaan zich online extremer uiten, omdat ze bij de groep willen horen, bleek uit de gesprekken die de onderzoekers voerden met de professionals.

Vatbaarheid

„Tegenwoordig is iedereen online en komt iedereen op een zeker moment in aanraking met extreme content”, zegt Rodermond. Of iemand online verder radicaliseert en op zoek gaat naar een extremistische groep, hangt mede af van zijn of haar levenssituatie, legt ze uit. „Niet iedereen die een groep opzoekt waar extremistische content wordt gedeeld, is daarvoor vatbaar.” Wel vatbaar voor beïnvloeding blijken de risicogroepen die deskundigen al kennen uit eerdere onderzoeken naar offline radicalisering. „Mensen die geïsoleerd zijn, die minder sociale contacten hebben”, legt Rodermond uit. „En de jongeren onder hen hebben vaak problemen thuis.”

Afgelopen jaren werden al preventieve weerbaarheidsprogramma’s uitgerold. In het bijzonder op scholen, om jongeren te informeren over het gevaar van gewelddadig extremisme en grooming, waarbij een vertrouwensband wordt gecreëerd met een aspirant-lid om die te kunnen werven. Of deze programma’s effect sorteren, is nog nauwelijks onderzocht, zeggen de onderzoekers.

Borderlinecontent

Intussen wordt het steeds moeilijker voor de politie en online platforms om extremistische uitingen op te sporen en te reguleren, blijkt uit het onderzoek van Rodermond en Stoeldraaijers. De onlangs door de Europese Unie ingevoerde Digital Services Act (DSA) verplicht grote sociale mediabedrijven als Meta en TikTok om illegale content te bestrijden. Die handhaving zorgt ervoor dat extremistische groeperingen hun expliciete beelden, geweldsoproepen en instructiemateriaal voor het bouwen van bommen verplaatsen naar besloten groepen op platforms als Telegram. Volgens Stoeldraaijers is juist Telegram – ondanks de DSA – minder actief op het gebied van content-moderatie.

De Telegram-oprichter Pavel Doerov werd eind augustus gearresteerd in Frankrijk, omdat zijn berichtendienst te weinig zou doen tegen criminaliteit op het platform. Volgens de Franse autoriteiten is Pavel medeplichtig aan de verspreiding van onder meer kinderporno en andere illegale praktijken zoals fraude en witwassen op Telegram. Door niet te modereren en geen of nauwelijks informatie te delen over gebruikers met de autoriteiten, zou de dienst vrij spel bieden aan criminelen.

Rodermond: „De DSA zorgt ervoor dat platforms hun verantwoordelijkheid moeten nemen voor strafbare content. Maar het is nog niet duidelijk wat ze moeten doen met niet-strafbare content die wel bijdraagt aan het ondermijnen van onze democratische rechtsorde.” Het is juist deze zogeheten ‘borderlinecontent’ die extremistische groeperingen op openbare platforms delen, zegt Rodermond; verwijzend naar grapjes, symbolen en andere online uitingen die niet illegaal zijn maar toch extremistische verhalen promoten, geweld aanwakkeren of polariseren. „Borderlinecontent speelt een belangrijke rol bij de groepsvorming, verspreiding van extremistische boodschappen en uiteindelijk de rekrutering van nieuwe leden.”

Geweldsbereidheid

De onderzoekers stellen dan ook voor een taskforce borderlinecontent op te richten. Daarin zouden de online platforms, extremisme-experts, juristen en ethici moeten plaatsnemen en zich moeten richten op het bestrijden van de onwenselijke gevolgen van content die net langs het randje gaat.

Wel brengt dat het risico met zich mee dat de grenzen van de vrijheid van meningsuiting worden overschreden. „Dat risico moet nu wel worden genomen”, vindt Rodermond. Uit het recente dreigingsbeeld blijkt dat de voorstelbare terroristische dreiging de afgelopen maanden licht is toegenomen. „Het jihadisme blijft de belangrijkste terroristische dreiging tegen Nederland”, schrijft de NCTV.

De kans dat een lid van een extremistische online groepering daadwerkelijk een strafbaar feit begaat, is bijna nihil, zegt Rodermond. „Maar als het toch gebeurt, heeft het grote gevolgen. Wanneer je dan een manier vindt – met inachtneming van ieders rechten en vrijheden – om toch die content te modereren, dan moet je dat verkennen.”