Regelgevers en toezichthouders proberen achter de innoverende AI-bedrijven aan te racen

Meerdere woningbouwcorporaties in Nederland gebruiken kunstmatige intelligentie (AI) om fraude op te sporen. Winkels zetten AI in om gedrag van klanten te observeren en mogelijke dieven er tijdig uit te pikken. En er zijn sportscholen waarbij het gedrag van klanten voortdurend wordt gefilmd en met AI geanalyseerd, zodat er geautomatiseerd alarm kan worden geslagen als iemand zich afwijkend gedraagt.

Of dat ook allemaal mag, hangt af van de Europese AI-wet die februari 2025 in werking treedt. En dan vooral hoe die wordt uitgewerkt en gehandhaafd. Een van de problemen is dat technische details daarin nog niet zijn uitgewerkt. Zo staat er in de verordening bijvoorbeeld dat ‘emotieherkenning’ op de werkplaats en in het onderwijs tegen de wet is. Maar of het filmen en analyseren van iemands gedrag en bewegingen ook een vorm is van emotieherkenning, is nog onduidelijk.


Lees ook

Wat de AI-act betekent voor Europese burgers

Voetbalfans laten hun gezicht scannen met een camera, tijdens een test met gezichtsherkenning bij voetbalclub NEC. Gezichtsherkenning bij voetbalwedstrijden mag waarschijnlijk niet meer onder de nieuwe AI Act.

De Autoriteit Persoonsgegevens (AP) maakt zich daar zorgen over, bleek tijdens de presentatie van een halfjaarlijkse rapportage over AI en de risico’s van algoritmes in Nederland. Er is een wildgroei aan AI-toepassingen door bedrijven en overheden en een gebrek aan democratische controle en toezicht daarop. Ook omdat het onderwerp veel beleidsmakers vooralsnog boven de pet gaat.

Maar hoe kan het anders? Daarop bestaan geen gemakkelijke antwoorden, zeggen Sven Stevenson en Gerald Hopster van de ‘directie coördinatie algoritmes’, een afdeling van de AP die is opgezet om de ontwikkelingen op AI-gebied te monitoren en het toezicht voor te bereiden. Het is „complex” en „een proces van lange adem”.

Ook het toezicht is nog pionieren

Sven Stevenson
AP

Slechts waarschuwen

Grote technologiebedrijven innoveren in hoog tempo en zijn in een onderlinge wedloop verwikkeld. Voortdurend worden nieuwe AI-toepassingen op de markt gebracht. Op hun manier racen de regelgevers en toezichthouders daar achteraan. Ze zien de nieuwe producten en het toenemend gebruik daarvan in alle lagen van de maatschappij, maar ze kunnen nog weinig anders dan waarschuwen en oproepen tot „waakzaamheid”.

De in ongebruikelijk hoog tempo aangenomen Europese wet is nog niet van kracht. De nationale toezichthouders zijn nog niet aangesteld. De technische specificaties nog niet geschreven.

„Ook het toezicht is nog pionieren”, zegt Stevenson. Toezichthouders onderling discussiëren in deze fase veel over wát ze zien en hoe ze het noemen. Is een niet vlekkeloos werkende zelfrijdende auto een ‘risico’, een ‘gevaar’ of een ‘incident’? Om te kunnen regelgeven en handhaven op de mondiale markt „is het extreem belangrijk dat zoveel mogelijk mondiale consensus ontstaat”, zegt Stevenson.

De Europese AI-verordening schrijft bijvoorbeeld voor dat „manipulerende AI-systemen” (gemaakt om te misleiden) worden verboden. En dat de systemen die worden gebruikt bij processen waar discriminatie en profilering op de loer liggen, aan „hoge standaarden” moeten voldoen. Maar de onderliggende technische specificaties van die standaarden zijn voorlopig nog niet af. En zullen dat waarschijnlijk ook nog niet zijn als de wet wél in werking treedt. Het blijft dus nog geruime tijd onduidelijk welk AI-systeem in de ogen van de wetgevers goed genoeg is, bijvoorbeeld om gebruikt te worden in gevoelige processen bij overheden.

Uit een enquête onder lokale overheden door de AP blijkt intussen dat onder meer gemeenten en gemeenteraadsleden worstelen met de complexiteit. AI komt steeds vaker terug in hun werk. Gemeenten gebruiken bijvoorbeeld gezichtscans bij de balie voor paspoortaanvragen en in het beoordelen van bijstandsaanvragen. Ze delen parkeerboetes uit op basis van wat auto’s met camera’s met AI registreren.

Hopster: „De gemeenten hebben veel extra taken gekregen. Die zitten dicht bij de burger. En die is afhankelijk van de overheid. De keuzes en effecten zijn dus politiek. Die moet je bespreken. Maar dat gebeurt lang niet altijd.” Uit de enquêteresultaten spreekt onder meer dat (lokale) politici behoefte hebben aan handvatten, keurmerken. Maar ook om die te maken geldt dat er eerst heldere specificaties moeten zijn.

Versnellen lukt niet

Over de technische specificaties van de nieuwe Europese AI-wet wordt vergaderd in zogenoemde standaardiseringscommissies. Betrokken bedrijven praten daar ook mee. Het zijn trajecten van jaren, waar uiteindelijk de Europese Commissie nog een klap op moet geven. Het lukt niet dat te versnellen. Stevenson: „Je wilt echt dat ze technisch compleet zijn. Er moet ook niet te veel interpretatieruimte zitten in hoe je daarmee om kunt gaan.”

Uiteindelijk zullen er standaarden komen. En afspraken over periodieke evaluaties en audits voor AI-systemen. „Daarmee geef je raadsleden en parlementariërs ook handvatten om de wethouder of minister mee te bevragen.” Dat is toekomstmuziek. Tot die tijd „vergt het nog best wat uitpluizerij”.