Privacy-experts: EU-wetsvoorstel tegen digitaal seksueel kindermisbruik is ‘waanzin en grensoverschrijdend’

Analyse

Europese Unie De digitale verspreiding van kinderpornografisch materiaal is een groot probleem. Maar aan een wetsvoorstel waarmee de Europese Unie dat wil bestrijden, kleven fundamentele bezwaren, zegt een expertpanel tegen Kamerleden: „Een absurd idee.”

Volgens Europese overheden wordt steeds meer kinderporno gedeeld via chatdiensten als WhatsApp, Signal en Telegram.
Volgens Europese overheden wordt steeds meer kinderporno gedeeld via chatdiensten als WhatsApp, Signal en Telegram. Foto Stephane Mahe / Reuters

Is het middel erger dan de kwaal? Een panel van experts dat woensdagavond de Tweede Kamer informeerde over een Europees wetsvoorstel dat het verspreiden van kinderporno en digitale kinderlokkerij moet tegengaan, is eensgezind: chat control gaat veel te ver.

„Een absurd idee voor een fantastisch surveillancesysteem”, zei Bert Hubert, oud-AIVD’er en voormalig lid van een toezichtscommissie op de inlichtingendiensten, over het controversiële Europese wetsvoorstel. Alsof, zei privacyexpert en universitair hoofddocent Jaap-Henk Hoepman (Radboud Universiteit Nijmegen), in ieder huis een camera komt te hangen die automatisch aanspringt als huiselijk geweld wordt gedetecteerd. „En dat is een heel grote als, want hoe detecteer je dat betrouwbaar?”

Terwijl het verspreiden van CSAM – Child Sexual Abuse Material, oftwel foto’s of video’s waarin minderjarigen seksueel worden geëxploiteerd – en grooming grote problemen zijn, slaat de Europese Unie met dit voorstel een verkeerde weg in, vinden alle vier de experts. Ze bevinden zich daarmee in een groeiend gezelschap van honderden vooraanstaande wetenschappers, Europese privacywaakhonden, de Nationaal Rapporteur Mensenhandel en Seksueel Geweld tegen Kinderen én kindermisbruikbestrijders zelf, zoals Offlimits, de organisatie achter het Nederlandse kinderpornomeldpunt. Vorig jaar ondernam het meldpunt actie tegen negenduizend afbeeldingen van minderjarigen.

Ook het Nederlandse kabinet is kritisch op grote delen van het wetsvoorstel, maar wil wel „een volgende slag slaan tegen de verspreiding van online materiaal van seksueel kindermisbruik”, aldus demissionair minister van Justitie en Veiligheid Dilan Yesilgöz (VVD) afgelopen zomer in een Kamerbrief. Een motie van de Tweede Kamer om EU-wetgeving met chat control niet te steunen, legde Yesilgöz naast zich neer.

Lees ook dit artikel: Het afvoerputje van het internet zit in een Noord-Hollands dorp

Niet in het belang van de kinderen

Voor Offlimits, de organisatie achter het Nederlandse Meldpunt Kinderporno, gaat het huidige voorstel te ver, zegt directeur Robbert Hoving in een schriftelijke verklaring. Het wetsvoorstel is niet in het belang van de kinderen die het zegt te beschermen. „Omdat de leefwereld van jongeren online is, kan ook seksueel experimenteren zoals sexting daarvan onderdeel zijn. Meekijken in privécommunicatie draagt daarmee juist bij aan onveiligheid en zorgt voor een enorme inbreuk op privacy van gebruikers.”

Volgens Europese overheden wordt steeds meer kinderpornografisch materiaal gedeeld via chatdiensten als WhatsApp, Signal en Telegram. Dat berichtenverkeer onttrekt zich grotendeels aan het zicht van opsporingsdiensten, omdat de chats in besloten kring uitgewisseld worden én goed versleuteld zijn. Ook de chatdienst zelf kan niet meelezen. Overheden vrezen het zicht op criminelen die zich achter de versleutelde communicatie verschuilen te verliezen.

De Europese Commissie presenteerde daarom vorig jaar een wetsvoorstel dat chatdiensten dwingt opsporingsdiensten mee te laten lezen. ‘Communicatiediensten’ als WhatsApp kunnen een ‘detectiebevel’ krijgen, dat ze verplicht berichten met daarin kinderlokkerij of kinderpornografisch materiaal – in beeld, tekst óf spraak – te detecteren en te melden bij een bevoegde EU-instantie.

Client side scanning

De enige manier om mee te kunnen lezen met de berichten zonder de versleuteling te verzwakken door een speciale achterdeur voor opsporingsdiensten te creëren, is client side scanning, legt onderzoeker Jaap-Henk Hoepman uit. De chatdienst leest dan mee vóór de berichten worden versleuteld, als een postbode die kennis neemt van de inhoud van een brief vóór deze wordt verzegeld en verzonden.

„Technisch gezien tast client side scanning de encryptie niet aan”, zegt Hoepman. „Maar dat is wel een heel nauwe interpretatie: versleuteling is een middel en geen doel op zich. Het doel is de vertrouwelijkheid van communicatie beschermen. Met client side scanning lees je gewoon mee over de schouders. Voor mijn gevoel maakt dit wetsvoorstel echt een fundamenteel andere manier van opsporing mogelijk.”

Het andere voorname kritiekpunt is de grote rol die de Europese Commissie weggelegd ziet voor kunstmatige intelligentie. De schaal waarop grooming en kinderpornografisch materiaal moeten worden opgespoord, is enorm: WhatsApp heeft naar schatting 2,8 miljard gebruikers wereldwijd die tientallen berichten per dag versturen. Kunstmatige intelligentie moet in de bergen foto’s en video’s het onderscheid maken tussen enerzijds onschuldige foto’s van peuters in bad of flirterige berichten tussen pubers en anderzijds grooming en kinderpornografisch materiaal.

Zo ver is de techniek nog lang niet, waarschuwde hoogleraar en internetveiligheidsexpert Michel Van Eeten (TU Delft) Kamerleden. „Voor het detecteren van onbekend kinderpornografisch materiaal en grooming is dit voorstel eigenlijk waanzin.” Zelfs de beste algoritmen, voorspelde oud-AIVD’er Bert Hubert, zullen opsporingsdiensten overspoelen met vals-positieve meldingen.

Het herkennen van al bekend kinderpornografisch materiaal, afbeeldingen die bijvoorbeeld in beslag werden genomen tijdens strafrechtelijke onderzoeken, acht Van Eeten beter voorstelbaar. In Nederland wordt zulke techniek al succesvol gebruikt door veel hostingpartijen, die daarmee op grote schaal hun servers scannen en opschonen.

‘Voet tussen de deur’

Ook demissionair minister Yesilgöz denkt dat het detecteren van bestaand materiaal aan de hand van zo’n ‘zwarte lijst’ betrouwbaar genoeg kan. In onderhandelingen met andere landen probeert ze het wetsvoorstel dan ook in die richting aan te passen, liet ze eind juni weten.

Woensdagavond lekte een nieuwe versie van het wetsvoorstel uit, waarin het detecteren van grooming volgens de NOS is gesneuveld. De mogelijkheid om met kunstmatige intelligentie ook nieuw materiaal te op te speuren, blijft echter in de wet staan en kan later door de EU-regeringsleiders van kracht worden gemaakt, zonder nog eens de gang naar het EU-parlement te hoeven maken. „De laatste versie van het voorstel probeert een kleine voet tussen de deur te houden voor het detecteren van nieuw materiaal”, zei Van Eeten woensdagavond.

Hubert: „Dit is geen wet die een klein beetje aangepast moet worden: we nemen voor vijfhonderd miljoen Europeanen in één keer de beslissing om die scanners toe te passen. Als wij hiermee instemmen, gaan we een grens over die we nog nooit over gegaan zijn. Namelijk dat iedere Europeaan gemonitord moet worden.”

Lees ook dit artikel: ‘WhatsApp dreigde uit Nederland te vertrekken om aftapplicht’