Gruwelijk geweld en meer: wat als jouw Instagram-algoritme op hol slaat?

„Ik zag een filmpje van een vrouw die naakt over straat aan het rennen was en schreeuwde om hulp. Eerst moest ik lachen, maar het bleek om beelden van sekshandel te gaan”, zegt Instagram-gebruiker Em Reijmer (24). „Ik zag een video van een man die helemaal kapot werd getrapt door een olifant”, zegt Joost Frijters (26). En Daniël Klok (31) windt er geen doekjes om: „Ik kreeg beelden van twee vrouwen die elkaar teringhard sloegen.” Alle drie waren ze woensdagavond aan het scrollen door het sociale media-platform Instagram. Ze werden overspoeld met extreem gruwelijke ‘reels’ (korte filmpjes). Er waren verkrachtingen en moorden te zien. Ze vroegen zich allemaal af wat er met hun algoritme aan de hand was.

Wereldwijd waren er urenlang ongecensureerde video’s te zien. Volgens techbedrijf Meta, het moederbedrijf van Instagram, Facebook en WhatsApp, was er een „technische fout” gemaakt die tot de verspreiding van verontrustende content heeft geleid. Zelfs een instelling in de applicatie die ervoor moet zorgen dat dit soort content gefilterd wordt deed het niet, aldus Instagram-gebruikers. Nadat de gebruikers het probleem op andere sociale media hadden gedeeld heeft Meta het probleem opgelost en excuses aangeboden voor de fout.

Het onverwachts voorgeschoteld krijgen van gruwelijke beelden zorgt voor een schrikeffect, zegt trauma-specialist Kaz de Jong. „Als je niet voorbereid bent, word je direct geconfronteerd met gevoelens van angst, walging en afschuw. Dat is niet gezond.” De Jong ondersteunt onder meer journalisten die voor hun werk naar oorlogsbeelden kijken. „Onverwachte, extreme beelden kunnen in het geheugen gegrift worden. Zo kan iemand het beeld herbeleven. Dat kan enorm destabiliserend zijn.”

Stoppen

Het incident volgt na de aankondiging in januari van topman Mark Zuckerbergs dat het het moderatiebeleid van Meta wordt aanpast. Het bedrijf wil naar eigen zeggen „censuur verminderen” en „vrije meningsuiting bevorderen”. Op de site van het bedrijf staat dat meer dan 15.000 moderatoren expliciete beelden beoordelen. Ook maken ze gebruik van interne technologie, waaronder kunstmatige intelligentie, om berichten met gevoelige inhoud te verwijderen. Het is vooralsnog niet bekend of het incident voortkwam uit een technische fout of dat het een menselijke ingreep was.

De Instagram-gebruikers die NRC sprak, viel het op dat dezelfde filmpjes die ze te zien kregen door accounts van echte mensen waren geplaatst. Volgens hen waren het geen botaccounts. Ook waren de mensen die reageerden in de comments net zo verbaasd als zijzelf. „Als die shit niet constant wordt gemodereerd, dan ga ik overwegen die hele app eruit te knallen”, zegt Klok.


Lees ook

Weg van TikTok, X of Insta – waar kun je heen?

Weg van TikTok, X of Insta  - waar  kun je heen?

Het eerste filmpje met „buitensporig” geweld zag hij om zes uur in de avond. Rond die tijd zijn veel kinderen nog niet naar bed. De kans bestaat dus dat zij de gruwelijke beelden ook hebben gezien. De Jong heeft advies voor ouders: „Ga met je kind in gesprek als die iets heftigs heeft gezien. Plaats de desbetreffende beelden in een breder perspectief. Zeg dat oorlog slecht is en dat het mensen kapot maakt. Maar vertel ook dat mensen het overleven en er sterker uitkomen. Zo leer je ook waar je kind precies bang of angstig voor is. Straf je kind vooral niet als ze zulke beelden op hun scherm hebben gezien. De kans bestaat dan dat ze er de volgende niet over vertellen.”

Foto Camiel Mudde

Verdoofd

Reijmer zat rond één uur ‘s nachts te scrollen door diens persoonlijke ‘reels-pagina’. „Een paar dagen eerder zag ik hetzelfde filmpje, waarin mensen op elkaar aan het schieten waren.” Het deed Reijmer niet zo veel. „Ik schrok van mijn eigen reactie. Het voelde alsof ik verdoofd raakte om mezelf te beschermen.” Joost had precies hetzelfde reactie. Hij zag ook filmpjes van liquidaties. „Op een gegeven moment vroeg ik me af waarom ik nog aan het scrollen was.” De beelden maakten hem juist nieuwsgierig. Volgens hem hadden de beelden minder impact op hem dan beelden in het journaal. „Op Instagram zie je tussendoor nog memes om je gedachten af te leiden.”

Traumaspecialist De Jong noemt de aanslag op de Twin Towers in New York als voorbeeld. De mensen die destijds voortdurend naar de televisie aan het kijken waren zijn getraumatiseerd geraakt op basis van beelden van de ramp. Dit terwijl ze er zelf niet bij waren. „Een posttraumatische stressstoornis kan dus ook ontstaan door filmpjes en verhalen. Dit komt doordat mensen een intens inlevingsvermogen hebben.”

Volgens De Jong is het daarom belangrijk om van tevoren altijd een waarschuwing te geven voor extreme beelden. „Dan zijn mensen voorbereid en hebben ze zichzelf gewapend.” Volgens hem laat het Instagram-incident zien hoe essentieel het is dat er moderatoren en filters zijn. Een tip die De Jong geeft aan professionals die dagelijks nare beelden bekijken, kan ook voor anderen werken: „Zet in de avond je telefoon uit en kijk naar Bambi of een vergelijkbare film. Zo neem je jezelf in bescherming.”