N.B. Het kan zijn dat elementen ontbreken aan deze printversie.
Kunstmatige intelligentie Europarlementariërs willen een verbod op real-time gezichtsherkenning en strenge eisen voor systemen als ChatGPT. Of die eisen het halen, is nog onzeker.
Het Europees Parlement (EP) wil de regels voor kunstmatige intelligentie (AI) flink aanscherpen en een verbod op real-time gezichtsherkenning instellen in Europa. Donderdagochtend stemde een belangrijke commissie van het EP in met een stevig mandaat voor de onderhandelingen over de zogeheten AI Act, een nieuwe wet die AI in Europa moet gaan reguleren. Of die wet uiteindelijk ook zo streng wordt, is nog onzeker – nationale overheden zien liever wat soepeler regels voor AI.
Onderhandelingen over de AI Act lopen al meer dan twee jaar, sinds de Europese Commissie in april 2021 een voorstel voor wetgeving presenteerde. Met de wet moet de Europese Unie mondiaal voorop gaan lopen in regulering van AI, waarbij de wens vooropstaat zowel risico’s voor mensenrechten te beteugelen als innovatie te stimuleren. De onderhandelingen verliepen de laatste tijd echter moeizaam, onder meer door de snelle ontwikkelingen in de sector en de complexiteit van de voorgestelde regels.
Naast het verbod op real-time gezichtsherkenning bepaalden de Europarlementariërs donderdag ook dat er strengere verplichtingen moeten komen voor grote AI-systemen als ChatGPT. Dit computerprogramma van OpenAI kan met behulp van kunstmatige intelligentie complete teksten produceren. Het EP wil dat betrokken bedrijven, voordat hun model wordt toegelaten tot de Europese markt, een risicoanalyse maken van de gevolgen bij gebruik, transparant zijn over de data die ze gebruiken en garanties geven voor cyberveiligheid. Ook over de milieu-impact van de systemen, die zeer energie-intensief kunnen zijn, moeten bedrijven transparantie gaan bieden.
Hoog risico
In het oorspronkelijke wetsvoorstel zat al een verbod op heel specifieke vormen van AI, waaronder bijvoorbeeld het gebruik van „sociale scoresystemen” door overheden, zoals in China gebeurt. Als het aan het EP ligt, worden daarnaast systemen die emoties of gender herkennen bij bijvoorbeeld grenscontroles verboden. Volgens Europarlementariërs moet er ook een verbod komen op verzamelen van grote hoeveelheden biometrische gegevens, bijvoorbeeld foto’s van gezichten op sociale media, om databases aan te leggen. Dat deed het controversiële gezichtsherkenningsbedrijf Clearview AI bijvoorbeeld al.
Daarnaast wil het Europees Parlement de definitie oprekken van wat als ‘hoog risico AI’ geldt, waardoor ook bijvoorbeeld aanbevelingssystemen op sociale media eronder vallen. Dit zijn de algoritmen die bepalen welke inhoud gebruikers wordt aangeraden. Voor dit soort riskante kunstmatige intelligentie moeten in Europa strenge regels gaan gelden, nog net iets strenger dan voor de grote AI-systemen als ChatGPT. Zo dient er een verplichte risicoanalyse te komen voordat zo’n systeem wordt toegelaten, en wil het EP transparantie over datagebruik opleggen.
Het Europees Parlement dringt verder aan op een ‘mensenrechtentoets’ voordat een hoogrisicosysteem in gebruik mag worden genomen. Dat moet eventuele nadelige effecten in de praktijk al bij voorbaat voorkomen – zo kan een dataverzameling onschuldig lijken, maar in de praktijk leiden tot discriminatie.
Vrijheid boven controle
Hoofdonderhandelaar namens de Groenen Kim van Sparrentak (GroenLinks) is tevreden over het mandaat en spreekt van een „mijlpaal voor het in goede banen leiden van AI”. Kritiek dat de EU met de regels innovatie zou afremmen verwerpt ze. „Het is voor innovatie juist goed als er duidelijker regels zijn en garanties dat systemen niet gevaarlijk zijn, omdat het de vrees van gebruikers ook wegneemt.”
Lees ook dit opiniestuk: Leg het gebruik van ChatGPT aan banden
Ook EDRi, een organisatie die waakt over digitale burgerrechten, is tevreden met de stemming. Volgens haar persverklaring toont de uitkomst „dat de EU mensen boven winst zet, vrijheid boven controle en waardigheid boven dystopie”. Wel maakt ze zich zorgen over de definitiebepaling van ‘hoog risico AI’, die volgens EDRi nog te veel mazen bevat en misbruikt kan worden door ontwikkelaars.
De stemming deze donderdag was een tussenstap op weg naar concrete Europese wetgeving. Volgende maand moeten Europarlementariërs het mandaat nog in een plenaire stemming bekrachtigen. Daarna kunnen pas onderhandelingen met de lidstaten beginnen, die naar verwachting niet eenvoudig worden. Vooral voor gezichtsherkenning willen EU-overheden soepeler regels, waardoor de technologie nog wel kan worden ingezet bij bijvoorbeeld opsporing van criminelen.