In een gezamenlijk rapport over de toepassing van kunstmatige intelligentie (AI) in de financiële sector erkenden De Nederlandsche Bank (DNB) en de Autoriteit Financiële Markten (AFM) eerder dit jaar hoe belangrijk zij de grondrechten van klanten van banken vinden. Dit sluit goed aan op een nieuwe Europese wet die stelt dat AI-systemen met een hoog risico door een onafhankelijke toezichthouder moeten worden getoetst op hun impact op fundamentele grondrechten.
De stichting Human Rights in Finance.EU (HRIF.EU) ziet het rapport als een poging van DNB en AFM om zichzelf te positioneren als toekomstige toezichthouders op AI in de financiële sector. Ik twijfel echter ten principale aan hun onafhankelijkheid. Kunnen DNB en AFM werkelijk objectief toezien op AI in de financiële sector, gezien hun dubbele rol als financieel toezichthouder? Ze zijn immers zelf verantwoordelijk voor het instrueren van banken om klantgegevens massaal te analyseren. Hoe verhoudt deze sturende rol zich tot de controlerende taak die de AI-verordening voorschrijft?
Ongebruikelijke transacties
Een praktijkvoorbeeld illustreert dit probleem: de situatie rond transactiemonitoring voor ongebruikelijke transacties in Nederland. Het DNB/AFM-rapport legt uit dat met AI de transactiemonitoring kan worden verbeterd door gegevens van verschillende banken te combineren en noemt expliciet het initiatief Transactie Monitoring Nederland (TMNL). Er wordt echter niet vermeld dat het monitoren van zakelijke klanten tussen maart 2021 en juli 2024 illegaal was. Ook de transacties van verenigingen en stichtingen met ideële doelen, zoals politieke partijen, werden gemonitord. Het resulteerde in de verwerking van bijzondere persoonsgegevens zonder wettige basis, zoals het ministerie van Financiën al in 2021 erkende in interne notities. Maar DNB en AFM grepen toen niet in.
Toen HRIF.EU eind februari van dit jaar bezwaar maakte tegen de onrechtmatige uitbesteding van transactiemonitoring door banken en hierover een handhavingsverzoek indiende bij DNB, werd dit met man en macht juridisch tegengewerkt. Dat de wet die TMNL legaal zou maken op 16 april 2024 door het ministerie van Financiën was ingetrokken (en TMNL dus niet legaal kan worden en nooit legaal geweest is) deed voor DNB intussen niet terzake. DNB bleef en blijft zich ook nu verzetten tegen onafhankelijke rechterlijke toetsing over haar rol bij het faciliteren en steunen van TMNL.
Illegale gegevensverwerking
De illegale gegevensverwerking door banken ging verbazend genoeg ook na 16 april door. Dat kwalificeert juridisch-technisch, onder artikel 138c van het Wetboek van Strafrecht, als cybercrime. Pas toen onze stichting de banken hierop wees, stopten de banken uiteindelijk ‘zelf’ met TMNL, op 15 juli 2024.
Lees ook
‘Scepsis over AI is mijn wetenschappelijke plicht’, zegt Melanie Mitchell, die hypes rond kunstmatige intelligentie ontzenuwt
Maar tot op de dag van vandaag tolereert DNB dat de onderliggende onrechtmatige uitbesteding voortduurt, omdat het basiscontract tussen banken en TMNL niet is ontbonden. Banken hebben alleen de transactiedata verwijderd, in de hoop de AI-modellen en algoritmes van TMNL in een toekomstige herstart gewoon opnieuw te gebruiken. Door niet in te grijpen op deze situatie diskwalificeert DNB zichzelf als geloofwaardige toezichthouder op AI-toepassing in de financiële sector.
Laat het toezicht bij de Autoriteit Persoonsgegevens of anders de Autoriteit Consument en Markt
Ons advies aan de Nederlandse politiek is om de toewijzing van toezichthouders toe te spitsen op de situatie in ons land. Wijs DNB en AFM, vanwege hun inherente belangenverstrengeling, niet ook aan als toezichthouders op AI in de financiële sector. Laat dat toezicht bij de Autoriteit Persoonsgegevens of anders de Autoriteit Consument en Markt.
