Met een ontslaggolf onder teams die verantwoordelijk zijn voor moderatie heeft TikTok de veiligheid van het platform verder onder druk gezet. Ook in Nederland, waar het bedrijf onlangs het moderatieteam heeft opgeheven.
Een woordvoerder van TikTok bevestigt na vragen van NRC dat TikTok in september het complete Amsterdamse moderatieteam van driehonderd werknemers heeft ontslagen. Vanuit dit kantoor werden berichten uit tal van Europese landen, waaronder Nederland, beoordeeld op onder meer naaktbeelden, haat en nepnieuws.
Volgens de woordvoerder is de Nederlandse ontslagronde „onderdeel van een wereldwijde reorganisatie”. Het modereren van Nederlandstalige berichten gebeurt nu „elders ter wereld” volgens de woordvoerder, die niet precies zegt te weten waar. Een tweede Nederlands TikTok-kantoor, met vooral sales- en marketingmedewerkers, blijft wel open. TikTok heeft 5,7 miljoen actieve Nederlandse gebruikers per maand.
TikTok hoopt dat kunstmatige intelligentie (AI) de rol van menselijke moderatoren kan overnemen. Moderatiewerk is psychisch zwaar werk, waar werknemers honderden expliciete video’s per dag moeten beoordelen die door gebruikers zijn aangemerkt als onveilig of illegaal. Op dit moment detecteert TikToks AI naar eigen zeggen al 80 procent van alle berichten die regels van het platform overtreden.
TikTok benadrukt dit jaar wereldwijd 2 miljard dollar (1,8 miljard euro) te investeren in moderatie en veiligheid. Het bedrijf meldde vrijdag tegenover de NOS dat het nog altijd 40.000 moderatoren in dienst heeft om het platform veilig te houden, waarvan 6.000 in Europa. De eigenaar van TikTok, het Chinese Bytedance, heeft meer dan 110.000 werknemers wereldwijd.
Algoritmen en mensenwerk
Het modereren van sociale media is een combinatie van algoritmes en mensenwerk. Mensen blijven vooralsnog hard nodig, omdat computers niet altijd de context of nuance van een foto of video juist kunnen inschatten. Dat ondervond ook Elon Musk, die na zijn overname van X, het voormalige Twitter, vrijwel alle moderatieteams liet opheffen. Nadat dit leidde tot een stortvloed aan kinderporno en haatberichten op het platform, wierf X weer werknemers aan voor een nieuw moderatieteam in Texas.
Voor TikTok komt de ontslagronde op een pijnlijk moment. Het bedrijf ligt zwaar onder vuur in de Verenigde Staten, waar TikTok is aangeklaagd door veertien Amerikaanse staten. Uit de aanklacht en aanverwante juridische documenten blijkt onder meer dat TikToks moderatiebeleid niet zo goed functioneert als het bedrijf zelf wil doen geloven. Zo wordt van de video’s waarin pedofilie wordt genormaliseerd een derde niet gedetecteerd.
Volgens de aanklacht brengt de app verder forse psychische schade toe aan jonge gebruikers, zoals depressieve klachten en morfodysforie (een afkeer van het eigen lichaam). Met name tieners zijn gevoelig voor het extreem verslavingsgevoelige karakter van de app.
Ook zou TikTok te weinig doen tegen het seksueel uitbuiten van tieners, die zich onder druk of tegen betaling uitkleden via TikToks livestream-functie. Daarmee functioneert TikTok als een „virtuele stripclub”, volgens de overheidsinstantie in de Amerikaanse staat Utah, die de rechten van consumenten beschermt.
TikTok krijgt de helft van de financiële transacties die gebruikers aan livestreamers betalen. Procureur-generaal Brian Schwalb zei vorige week op X dat TikTok daarmee „geld verdient aan het seksueel uitbuiten van kinderen”.
