De wekkerradio meldde dat jongeren jonger verslaafd raken aan nicotine. Mijn eerste gedachte: het kwaad wint. Als de doemindustrie waarvan de kwaadaardige lobby vorige eeuw werd blootgelegd zich nog langs een muur van regelgeving kan wurmen en jongeren jonger verslaafd krijgt, zijn we verloren. De eerste gedachte van de dag, hoeft geen goede gedachte te zijn, maar is meestal wel juist: het kwaad wint.
Als big nicotine winst mag blijven knijpen uit jonge longen, zal big oil blijven pompen, big agro blijven fokken en zal big luchtvaart vliegvakanties blijven aansmeren alsof die verplicht zijn. Er is geen kruid gewassen tegen die lobby’s. De geschiedenis van de mens is als een voetbalwedstrijd waarin met nog vijf minuten te gaan, het kwaad 12-0 voor staat. Supporters roepen dat liefde altijd overwint, maar dat is liefde voor geld, die telt niet. Liefde voor natuur en alles wat leeft, delft met 12-0 het onderspit.
Bij Zembla vertelden landbouwminister Piet Adema en Ingrid Becks, directeur van toelatingsinstantie Ctgb, waarom ze het voordeel van de twijfel gaven aan een landbouwgif dat kanker en Parkinson zou kunnen veroorzaken. In plaats van het woord ‘pesticide’ gebruiken beiden steeds het naar lobbykoker riekende ‘gewasbeschermingsmiddel’. Het kwaad heeft ons ingemaakt. Wij blijven op het veld staan, houden onze voetprint klein, protesteren links en rechts en brengen op verkiezingsdagen een stem uit, maar het kwaad heeft gewonnen. Dat de VAR verkleed als rechter zo nu en dan opstaat en zegt: ho wacht even, dit kan echt niet, gaat ons niet redden.
Ons water wordt ondrinkbaar, soorten verdwijnen, het koraal sterft, de zeeën raken leeg. Murw gelobbyde regeringen subsidiëren goedkoop vliegen, vlees mag in de bonus en nicotine in een lolly. Politici ruziën op Twitter terwijl het kwaad zich het vuur uit de sloffen lobbyt en alles verslaat wat geen aandeelhouders heeft, liefde incluis. Landen in vrede leveren wapens aan landen in oorlog en praten dat goed. Wie protesteert tegen Olie, Wapens, Agro of andere ruiters van onze Apocalyps wordt vakkundig natgespoten en geridiculiseerd. Inheemse activisten worden zelfs geliquideerd. 13-0.
In de Verenigde Arabische Emiraten regende het zo hard dat het woestijnland onder water staat. Er zijn aanwijzingen dat de hoosbui kunstmatig werd opgewekt, maar dat wordt hard ontkend. Zelfs het enorme vliegveld van Dubai staat blank en raadt reizigers af te komen. Op ons eigen Schiphol werden vluchten geannuleerd wegens onstuimig weer. De luchtvaart heeft er niet op gerekend dat klimaatverandering, kunstmatig of niet, luchthavens hoog op haar lijstje zou zetten. Goal tegen: 13-1. Ik juichte in stilte. Die goal in eigen doel moet het kwaad pijn doen. Even dacht ik: Misschien maken we een kans. Gedachten aan het einde van de dag zijn vaak positiever, maar zelden juist.
Het waren wekelijkse afleveringen, die je met een metalen draad kon inbinden in genummerde verzamelmappen. Bericht van de Tweede Wereldoorlog, aan huis bezorgd door de post, met – een heel nieuw tijdperk – Viva en de Pep. Het was in de jaren zestig een soort wekelijkse herinnering aan wat zich nog geen kwart eeuw eerder had afgespeeld, van Blitzkrieg in Polen tot twee atoombommen op Japan. Mijn vader verzamelde ze allemaal, net als veel van zijn generatiegenoten die zich al dan niet hadden onderscheiden in vijf jaar bezetting.
De verwerking was toen vooral nationaal-historisch. Als ik het me goed herinner, werd aan de Holocaust een aflevering gewijd, (nummer 90), KZ. Het was de tijd dat ook in de jaarlijkse 4 mei-herdenking militairen en verzetsstrijders centraal stonden. De mythe van een dapper, klein en vooral onschuldig landje was nog springlevend, al liet Presser met Ondergang de eerste barsten in de spiegel springen.
Ruim een halve eeuw later is de invulling en lading van die herdenking opnieuw onderhevig aan politiek-maatschappelijk magnetisme. Erkenning van de genocide op Europese Joden tijdens de oorlog heeft eindelijk breed postgevat – maar nu is er Gaza. Welke massamoord verdient voorrang in het ‘nooit meer’? Gaat het om het verleden of is herdenken een appel aan het heden – en aan wiens heden dan?
Het is het dilemma van de herdenkers, in Het Parool pijnlijk pregnant verwoord door Andrée van Es, voorzitter van het Amsterdams 4 en 5 mei comité. Deze herdenking wordt „de moeilijkste in jaren”, zegt zij. Want de stad herbergt nu mensen van overal, met „hun eigen ervaringen van oorlog en onderdrukking”. Herdenken van ‘de’ oorlog is ook „een beperkte blik geweest”, waarbij „veel mensen buiten de boot vielen”. Wie dat miskent, loopt het risico dat herdenken „ongeloofwaardig” wordt.
Maar is omkijken naar één historische afgrond, die van 1940-1945, dan een vorm van privilege? De herdenking willen verbreden is misschien prijzenswaardig, maar het verleden is meer dan een algemene humanitaire les, het heeft ook zijn eigen zwaartekracht – én geschiedenis.
Die doet ertoe, zeker nu extreemrechts zich, inclusief een kransleggende Kamervoorzitter, ook hier aan die historische zwaartekracht probeert te onttrekken. Met een éénmanspartij die al jaren ophitsende uitsluitingstaal verspreidt en nu voor de bühne, godbetert, haar onbeschroomd ongrondwettelijke standpunten even heeft willen parkeren. Alhoewel, premier-in-eigen-gedachten Wilders hield over de grens pas nog een toespraak die hier braaf werd ontvangen, maar bol stond van huiveringwekkende jarendertigretoriek.
Dat is dan toch een les – en wel de beste voor nu.
Sjoerd de Jong schrijft elke donderdag op deze plek een -column.
Een Nederlandse vrouw is vrijdag aangehouden wegens betrokkenheid bij de moordaanslag op de extreemrechtse Spaanse politicus Alejo Vidal-Quadras, vorig jaar november in Madrid.
Dat bevestigde een woordvoerder van het Openbaar Ministerie woensdag. Het OM zegt dat het gaat om een 27-jarige vrouw uit Den Bosch. De Nederlandse vrouw werd aangehouden op basis van een Europees arrestatiebevel, een verzoek van de Spaanse autoriteiten.
Het Openbaar Ministerie wil geen details kwijt over de inhoud van de zaak en ook niet waarvan de vrouw verdacht wordt. Volgens Spaanse media is de aanklacht het financieren en voorbereiden van de moordaanslag in Madrid. De vrouw wordt binnenkort voorgeleid, waarna het Spaanse overleveringsverzoek zal worden voorgelegd aan de overleveringskamer van de rechtbank. Die komt binnen drie maanden met een besluit, aldus de OM-woordvoerder.
Vidal-Quadras is mede-oprichter van Vox, een conservatief-nationalistische afsplitsing van de Partido Popular. Voor die partij zat hij vijftien jaar in het Europees Parlement. In 2014 was hij de eerste Europese lijsttrekker van Vox, maar hij veroverde toen geen zetel.
Hij werd op 9 november in de hoofdstad Madrid door het hoofd geschoten door een man op een motor. De Spaanse politicus overleefde de moordaanslag.
Spanje en Colombia
Naast de Nederlandse vrouw uit Den Bosch werden vier verdachten gearresteerd in Spanje en Colombia. De schutter, vermoedelijk een huurmoordenaar, is nog voortvluchtig.
Het is niet bekend waarom Vidal-Quadras het doelwit van een aanslag was. De Spaanse autoriteiten communiceerden vooralsnog niet over het motief van de aanslagpleger.
Vidal-Quadras is ervan overtuigd dat het regime in Teheran achter de aanslag zit vanwege zijn banden met de Iraanse oppositie.
In februari van dit jaar verschijnt er een berichtje op netwerksite LinkedIn, opgemaakt als een tegeltje, met blauwe letters en een rood-blauw logo. Het is van SigmaRed Technologies, een klein Canadees software-analysebedrijf. In het bericht feliciteert het bedrijf zichzelf met de lof van een opdrachtgever. „We zijn dolblij om te vertellen dat we een mooi compliment hebben gekregen van een leading EU government”, schrijft SigmaRed. Wie een offerte wil, kan mailen naar het contactadres.
Het government is dat van Nederland, specifieker het ministerie van Buitenlandse Zaken. Dat heeft een paar maanden eerder een rapport besteld bij het in Europa vrijwel onbekende bedrijf, dat vanuit Toronto ict’ers in India aanstuurt. De opdracht aan SigmaRed: onderzoek of het algoritme dat wordt gebruikt bij het beoordelen van visumaanvragen ongewild bepaalde aanvragers discrimineert – een risico waar NRC een jaar geleden over schreef.
Lees ook Pas op met deze visumaanvraag’, waarschuwt het algoritme dat discriminatie in de hand werkt. Het ministerie negeert kritiek
Na een paar maanden is de conclusie van SigmaRed helder: er is niets aan de hand, Buitenlandse Zaken doet zijn werk naar behoren, niemand wordt gediscrimineerd. Een conclusie die, zo blijkt uit de LinkedIn-post, in Den Haag in dankbaarheid wordt aanvaard.
Het rapport van SigmaRed, dat maandag openbaar werd gemaakt, biedt het ministerie een uitweg uit een netelige situatie. Op het departement ligt namelijk al ruim een jaar een ander rapport in een la, van het Rijks ICT Gilde. Deze gezaghebbende IT-dienst van de overheid komt daarin tot een volstrekt tegenovergestelde conclusie. Namelijk dat het visum-algoritme van Buitenlandse Zaken reizigers uit landen in Afrika en het Midden-Oosten discrimineert. Goedwillende reizigers uit die regio worden door de computer opvallend vaak als „risicovolle aanvragers” bestempeld, aldus dat rapport. Dat is onwenselijk.
Pas toen het tweede onderzoek klaar was, werd het eerste openbaar
NRC kreeg vorig jaar lucht van het kritische onderzoek door het Rijks ICT Gilde. Datzelfde gold voor diverse Tweede Kamerleden. NRC vroeg het rapport op via een beroep op de Wet openbare overheid (Woo), de parlementariërs rechtstreeks bij de minister. Maar in plaats van het onderzoek vrij te geven, rekte de minister tijd en liet ondertussen een second opinion schrijven door het Canadese SigmaRed. Toen dat rapport – met de conclusie dat er „geen disproportionele discriminatie op basis van leeftijd, burgerlijke staat of leeftijd” plaatsvindt – klaar was, maakte het ministerie beide onderzoeken openbaar.
„Het ministerie heeft het eindrapport van het Rijks ICT Gilde om een aantal redenen helaas niet kunnen accepteren”, schrijft minister van Buitenlands Zaken Hanke Bruins Slot (CDA) maandag, op de eerste dag van het meireces, aan de Tweede Kamer. „Vanwege het tekortschietende rapport heeft het ministerie een andere externe partij verzocht een onderzoek te doen”. En die concludeert, aldus de minister, „geen bias” bij het beoordelen van de aanvragen.
‘Net een beetje anders’
Het Rijks ICT Gilde, onderdeel van het ministerie van Binnenlandse Zaken, omschrijft zichzelf op haar website als „een ambitieuze tech-organisatie, die alles nét een beetje anders doet.” Bij het Gilde werken meer dan zeventig programmeurs, data-wetenschappers en andere specialisten aan de „digitale deskundigheid” van het Rijk. Daarbij gaat het, zeker sinds de Toeslagenaffaire, steeds vaker over de manier waarop de overheid omgaat met vraagstukken rondom verantwoorde AI, eerlijke algoritmes, ethiek en privacy.
Leif de Kloet, voormalig handelaar in derivaten en de voorman van het Gilde, zei in 2022 dat hij „enthousiast werd van complexe ict- en datavraagstukken bij het Rijk”. Hij hoopte dat zoveel mogelijk interne opdrachtgevers hem zouden weten te vinden „als gelijkwaardige partner.”
Eén van de eerste grote algoritme-onderzoeken van het Rijks ICT Gilde is bij Buitenlandse Zaken. Het departement heeft De Kloet gevraagd om het visumalgoritme door te lichten. De aanleiding: er is interne kritiek en ook reizigers klagen. De digitale dienstverlening hapert en aanvragers mopperen dat ze niet te horen krijgen waarom hun visumaanvraag wordt afgewezen.
Het algoritme moest juist de dienstverlening verbeteren. ‘Beslisambtenaren’ bij de visumafdeling gebruiken het systeem bij het beoordelen van de honderdduizenden visumaanvragen per jaar voor kort verblijf in Nederland. Het werkt met risicoscores voor visumaanvragen. Door een aanvrager te vergelijken met andere reizigers op basis van onder meer nationaliteit, leeftijd, geslacht en plek van aanvraag, berekent het algoritme een score. Een lage score betekent: deze aanvraag mag naar de ‘fast track’, hier hoeft de ambtenaar maar kort naar te kijken. Een hoog getal betekent een groter risico op problemen. Die aanvraag komt in de ‘intensive track’ bij de beslisambtenaar. Die kan er voor kiezen de aanvrager te interviewen of om extra documenten te vragen.
Dankzij de risicoscore kunnen de ambtenaren sneller door de enorme stapel aanvragen heen. En daarmee is het óók een bezuiniging. Zonder het algoritme, zei het ministerie vorig jaar tegen NRC, zouden er „enkele tientallen” extra beslisambtenaren nodig zijn.
Lees ook ‘Alsof je tegen een robot praat’, zeggen Surinamers die een visum voor Nederland aanvragen
‘Geen menselijke maat’
In 2022 maakte de interne privacy-toezichthouder van Buitenlandse Zaken bezwaar tegen het algoritme bij de visumdienst. De scores die daaruit voortkomen hebben een „mogelijk discriminerend karakter”, schreef hij in een intern stuk. Hoe kun je op basis van iemands nationaliteit of geslacht de kans berekenen dat iemand een malafide aanvraag doet? En was één van de lessen van de Toeslagenaffaire niet dat dit soort systemen onbedoeld discriminatie in de hand werken?
De gevolgen kunnen enorm zijn. Bij een afwijzing kunnen mensen niet naar familie of geliefde reizen. Ze missen zakelijke kansen, geboortes, huwelijken, begrafenissen. Dat een afwijzing met grote pijn gepaard gaat, bleek uit tientallen brieven die NRC na publicatie van het artikel over deze problematiek kreeg. „Dit is precies wat er gebeurt als alles overgenomen wordt door computers en algoritmes. Er is geen menselijke maat meer”, schreef één lezer. „Dit is een enorm onderbelicht probleem dat vele duizenden mensen raakt, inclusief mijzelf”, schreef een ander.
Het ministerie wees de kritiek resoluut af. De risicoscores zijn niets meer dan een steuntje in de rug voor de beslisambtenaren, aldus het departement. Zíj nemen de beslissing. En de beslissers laten zich niet leiden door het stempel ‘risicovol’, ook niet onbewust. „De profielen leiden niet tot het mechanisme van ‘zoekt en gij zult vinden’”, schreef het ministerie aan NRC.
Met het onderzoek van het Rijks ICT Gilde hoopte het ministerie alle twijfel uit de wereld te helpen. In overleg met het Gilde werd een onderzoeksopzet uitgedacht, maar het enthousiasme bij Buitenlandse Zaken verdampte zodra de conclusies van de it-dienst duidelijk werden. Het Gilde bevestigde begin 2023 juist alle eerdere bezwaren van de privacy-toezichthouder. In het algoritme zit een heel sterke bias, zag de it-dienst. Aanvragers uit specifieke landen worden door de computer opvallend vaak ten onrechte ingedeeld in de categorie „streng controleren”. Mensen met de ene nationaliteit hebben tot zeventig keer meer kans om extra gecontroleerd te worden dan aanvragers met een andere nationaliteit, aldus de dienst.
Aanvragen uit onder meer Marokko en Egypte worden extra streng gecontroleerd
In de rapporten die het ministerie van Buitenlandse Zaken maandag naar de Tweede Kamer heeft gestuurd, zijn de namen van die landen weggelakt. Uit onderzoek van NRC blijkt dat aanvragen uit onder meer Marokko, Tunesië, Egypte, Ghana, Ethiopië, Iran en Irak vaak ten onrechte extra streng worden gecontroleerd. Het gaat om tienduizenden aanvragen per jaar.
Het kritische rapport van het ICT Gilde is toevallig klaar in dezelfde maand dat NRC, in samenwerking met journalistiek collectief Lighthouse Reports, over het algoritme publiceert, in het voorjaar van 2023. In reactie op de artikelen vragen diverse Kamerleden om een onderzoek, zonder dat ze weten dat dit al gedaan is. Het ministerie houdt ze in die waan. Als Denk in juni 2023 expliciet om de bias-toets vraagt, verzwijgt de bewindspersoon dat dit rapport al bestaat, en verwijst naar eerder beantwoorde Kamervragen en een oude „voortgangsrapportage”.
Openbaarmaking afdwingen
NRC doet in dezelfde periode een Woo-verzoek, maar krijgt te horen dat er „personele problemen”, zijn en dat „de situatie in de wereld” voor vertraging zorgt. Er liggen „veel dossiers” en er wordt gewacht op nieuwe „onderzoeksresultaten”. Herhaaldelijk belooft het ministerie „het verzoek spoedig af te ronden”. Uiteindelijk stapt NRC in februari dit jaar naar de rechter om openbaarmaking af te dwingen.
In de tussentijd laat het ministerie een tweede rapport opstellen, door SigmaRed. De onderbouwing daarvoor is dat het Rijks ICT Gilde „is afgeweken van de door Buitenlandse Zaken gestelde onderzoeksvraag” en „aannames heeft gedaan die niet stroken met de feitelijke werkwijze” van het computersysteem. Het onderzoek zou ook over het hoofd zien dat de beslismedewerkers van Buitenlandse Zaken de uiteindelijke beslissing over het visum nemen. Eventuele fouten die de computer maakt met risicoscores worden zo recht gezet, redeneert de minister.
Eind april mailt het departement NRC dat de Woo-stukken nu echt komen. Maar voordat die naar NRC worden gestuurd, zijn ze al gepubliceerd op de website van de Tweede Kamer.
Lees ook WRR-voorzitter Corien Prins: ‘Politiek heeft nog niet voldoende oog voor gevolgen van AI en de gevaren van digitale ontwrichting’
‘Onwenselijke bias’
NRC heeft de twee rapporten voorgelegd aan Cynthia Liem, universitair hoofddocent intelligente systemen aan de TU Delft. Liem duidt vaker vraagstukken rond problematische algoritmen, onder meer in de Toeslagenaffaire en in Rotterdam, waar met computermodellen op bijstandsfraudeurs werd gejaagd. „SigmaRed beargumenteert haar onderzoeksmethode niet goed, en ik begrijp sommige dingen niet die ze opschrijven”, zegt ze. „Het Rijks ICT Gilde doet dat beter. Dat heeft onderzocht hoe vaak mensen uit bepaalde landen in de intensieve track zijn beland, om daarna tóch een visum te krijgen. Die zijn dus ten onrechte blootgesteld aan extra controles. Dat blijkt bij bepaalde nationaliteiten veel vaker te gebeuren dan bij andere. Dat kun je als onwenselijke bias zien.” Daar moet je niet licht over oordelen, zegt Liem. „Het lijkt op wat in Rotterdam gebeurde: daar werden veel onschuldige alleenstaande bijstandsmoeders onderworpen aan extra controles”.
De verdediging van het ministerie dat beslismedewerkers zich niet laten beïnvloeden door de risicoscore, overtuigt haar niet. „Mensen zijn gevoelig voor dit soort scores, weten we.”
In het rapport van het Rijks ICT Gilde staat dat de ambtenaren bij de fast track te lezen krijgen: „Aanvraag valt in groep met weinig tot geen risico op misbruik visumprocedure”. Bij de intensive track staat de melding: „LET OP: Aanvraag valt in groep met verhoogd risico op misbruik visumprocedure”. Liem: „Het lijkt me logisch dat een medewerker reageert op ‘LET OP’. Het is zelfs problematisch als die dat niet doet. Als dit soort mededelingen geen effect hebben, waarom wordt dit systeem dan überhaupt gebruikt?”
Leif de Kloet van het Rijks ICT Gilde zegt in een reactie dat uit het onderzoek van zijn organisatie blijkt „dat er aanwijzingen zijn dat het algoritme mogelijk discrimineert”. Hij pleit voor aanvullend onderzoek, „zowel kwalitatief als kwantitatief.” De Kloet zegt dat hij heeft aangeboden het Gilde-onderzoek te laten valideren door een derde partij. Buitenlandse Zaken heeft er echter voor gekozen „om een andere, voor ons onbekende partij, te benaderen om opnieuw een bias toets uit te voeren.”
SigmaRed antwoordt niet op vragen. Het ministerie laat weten dat „Buitenlandse Zaken een duidelijke onderzoeksvraag” had. „Die vraag is door het rapport van SigmaRed beantwoord.”
