Ook bij AI spelen mensenrechten mee, daarom werkt Jan Kleijssen aan een verdrag

Computergestuurde gevangenissen waar – behalve de gedetineerden – geen mens meer aan te pas komt. Geautomatiseerde rechtspraak met digitaal uitgespuwde vonnissen. Universele vertaalprogramma’s. Algoritmes die medische knopen doorhakken in hybride ziekenhuizen. Personeelsselectie per computer. Bijna alles lijkt binnenkort of nu al mogelijk door de hoge vlucht die artificiële intelligentie (AI) heeft genomen.

Met de mogelijkheden nemen ook de zorgen toe en de angst voor de opkomst van een digitale surveillancestaat. En hoe betrouwbaar zijn AI-systemen? Recentelijk waarschuwden Amerikaanse experts dat wetenschappers vaak slordig omgaan met AI-programma’s en te makkelijk vertrouwen op systemen die niet waterdicht zijn of slecht worden gebruikt.

Er is betere training nodig van professionals die met AI werken

Inmiddels worden nieuwe, bindende afspraken voorbereid. De Raad van Europa werkt aan een conventie die moet waarborgen dat het gebruik van AI geen inbreuk maakt op mensenrechten of de fundamenten aantast van rechtsstaat en democratie. Deze week komt een werkgroep die bezig is met een concept-verdrag opnieuw bijeen. Doel is een internationaal verdrag over AI en de bescherming van mensenrechten.

Jan Kleijssen, de Nederlandse directeur mensenrechten, is ervan overtuigd dat hier een taak ligt voor de Raad, zegt hij in een online interview. „De Raad heeft al vroeg ingezien dat als je mensenrechten, rechtsstaat en democratie wilt beschermen, ook nieuwe technologieën om aandacht vragen.” Hij wijst op het eerste verdrag ter bescherming van persoonsgegevens uit 1981, Conventie 108, door 55 landen geratificeerd, waaronder Nederland.

Verdrag tegen cybercriminaliteit

De Raad nam ook het initiatief voor het eerste internationale verdrag tegen cybercriminaliteit (2001), waar inmiddels 68 staten partij bij zijn. Kleijssen: „Dat is het enige verdrag ter wereld in zijn soort.” Sinds de komst van internet heeft de Raad daarnaast een reeks aanbevelingen gedaan over bijvoorbeeld de online rol van media, bescherming van kinderen en gezondheidszorg.

Over AI bracht een werkgroep twee jaar geleden een verkennend advies uit. Conclusie: de bestaande regelgeving vertoonde leemtes. Dat leidde tot de opdracht van het EU-comité van ministers om een verdrag over AI en mensenrechten voor te bereiden.

Om welke leemtes gaat het? Kleijssen somt op: „Er is geen wettelijke basis voor het juiste gebruik van AI door overheden. Er is onvoldoende overzicht van gebruikte datasets bij allerlei toepassingen. Er is betere training nodig van professionals die met AI werken. Burgers moeten het te horen krijgen als een beslissing die hen betreft is genomen is door een AI-systeem. Er is een beroepsmogelijkheid nodig tegen zo’n beslissing. In de private sector en bij overheden.”

Valkuil van machine learning

Voorbeelden genoeg wat er verkeerd kan gaan. „In de VS is een experiment gedaan met het automatiseren van de vraag of een verdachte op borgtocht vrij mocht komen. Wat bleek? Als de verdachte blank was kreeg hij borgtocht, een gekleurde verdachte moest blijven zitten. Hoe komt dat? Omdat de dataset die werd gebruikt uitging van de huidige gevangenispopulatie in de VS.”

Het is de bekende valkuil van machine learning: computers leren van de data die je erin stopt. Ook Amazon kreeg ermee te maken. „Zij hebben laten weten dat ze voor rekrutering geen AI-systeem meer gebruiken. Vrouwen bleken namelijk niet door de eerste selectie te komen, omdat het systeem zich baseerde op de huidige samenstelling van het management. Dus concludeerde het dat vrouwen ongeschikt zijn voor hogere functies.” Nog een: „In Oostenrijk kregen alleenstaande moeders en mensen met een handicap geen werk aangeboden omdat het systeem besloot dat ze op basis van de bestaande arbeidsmarkt ongeschikt waren.”

De Raad van State heeft toegegeven dat het anders moet

Klap op de vuurpijl was het Nederlandse toeslagenschandaal. „Die tragedie is breed opgemerkt. Het is een standaard geworden voor wat er mis kan gaan met AI. Landen zijn zich gaan afvragen: kan dit ook bij ons gebeuren?” Sommige landen aarzelden nog, Nederland voorop. „Dat stond het meest op de rem, maar is compleet overstag gegaan.” Ministeries van Justitie waren al vrij snel overtuigd, maar ministeries van Economische Zaken vreesden dat regulering ten koste zou gaan van innovatie.” Ten onrechte, meent Kleijssen. „Kijk naar de farmaceutische industrie, de meest gereguleerde industrie ter wereld én een van de meest innovatieve.”

Eind volgend jaar moet de tekst van het verdrag er zijn, daarna kan het worden voorgelegd aan de lidstaten. In voorbereiding is een checklist met regels waaraan het gebruik van AI-systemen moet voldoen. Is de dataset in orde, is het personeel goed opgeleid en capabel? Is er een beroepsmogelijkheid voor burgers?

Een shocktherapie

Ook de rechterlijke macht zal zich moeten aanpassen. „De Raad van State heeft met het toeslagenschandaal een shocktherapie gehad en toegegeven dat het anders moet. Een pluspunt voor Nederland. We verbergen de zaak niet.”

Sommige toepassingen van AI zal het verdrag uitsluiten, als het aan de werkgroep ligt. Kleijssen: „Wat we willen verbieden is social scoring zoals in China, het opstellen van een puntensysteem voor burgers. Ook willen we niet dat de overheid gezichtsherkenning gebruikt om privégegevens van burgers te verzamelen, zoals seksuele voorkeur.”

Regels zijn ook nodig voor megabedrijven die online content modereren. Kleijssen: „Heel veel content moderation gebeurt door AI-systemen en dat kan leiden tot eenzijdigheid en zichzelf versterkende informatiebubbels. En dus tot polarisatie. Het gaat erom dat bedrijven hun verantwoordelijkheid nemen om te zorgen dat hun informatieaanbod heterogeen blijft en niet één kant opgaat.”

Hoe gaat het verder? In oktober werd Kleijssen ontvangen in het Witte Huis om te overleggen over de inbreng van de Verenigde Staten bij de onderhandelingen. „De Amerikanen doen ook mee. Zij hebben inmiddels een blauwdruk voor een nationale AI Bill of Rights, mede geïnspireerd door ons werk.” Eén Euraziatische macht doet niet meer mee: Rusland, dat na de invasie van Oekraïne uit de Raad van Europa is gezet.