Trump zwicht: waarom Nvidia verboden AI-chips alsnog aan China mag leveren

Gebruik van technologie om menselijke emoties te herkennen werpt ethische vragen op en brengt risico’s met zich mee. Die waarschuwing geeft de Autoriteit Persoonsgegevens (AP) dinsdag in haar jaarlijkse Rapportage AI- & Algoritmerisico’s Nederland.

Bedrijven en andere organisaties gebruiken kunstmatige intelligentie in toenemende mate om menselijke emoties te herkennen. Onder meer om te achterhalen of een klant tevreden is en om winkeldiefstal te voorkomen door verdacht gedrag te detecteren. De AP, toezichthouder op de privacy, ziet echter dat bij emotieherkenning nogal eens omstreden aannames worden gedaan over emoties. Ook bij de meetbaarheid ervan stelt ze vragen.

Emotieherkenningssystemen

Algoritmes en AI-modellen kunnen menselijke emoties detecteren en interpreteren via tekst, audio, video, biometrische gegevens of een combinatie ervan. Denk bijvoorbeeld aan gesprekken met chatbots waarin kan worden beoordeeld of woorden neutraal, positief of negatief zijn. AI-gedreven spraakanalyses die aan de hand van de intonatie, snelheid en toonhoogte kunnen inschatten of iemand bijvoorbeeld gefrustreerd is.

Emotieherkenningssystemen kunnen processen in verschillende sectoren verbeteren en efficiënter maken, zoals klanttevredenheid in de marketing, maar er kleven ook risico’s aan, zegt de AP. Uit haar onderzoek komt naar voren dat deze systemen gebruikmaken van universele emoties. Het uitgangspunt is dat iedereen natuurlijke emoties op dezelfde manier ervaart en uitdrukt.

Dit blijkt in de praktijk echter niet het geval. Emotieherkenningssystemen zijn voornamelijk getraind op basis van westerse opvattingen over emoties, die niet per definitie universeel zijn. In de praktijk zijn emoties vaak moeilijk te analyseren en sterk afhankelijk van de context. AP-voorzitter Aleid Wolfsen waarschuwt daarom voor het gebruik van deze systemen. Emoties kun je „niet altijd een-op-een vertalen”, zegt hij. „Een hoge hartslag is niet altijd een teken van angst, en een harde stem niet altijd een uitdrukking van woede.”

Ethische vraagstuk

Wat ook naar voren komt uit het rapport is dat de privacy in het geding kan komen bij het detecteren, verwerken en analyseren van menselijke emoties. AI-gedreven systemen die emoties herkennen, hebben namelijk toegang nodig tot persoonlijke data als je hartslag en je lichaamshouding. Daarnaast vormt de toenemende verwerking van data van deze gevoelige gegevens naar bijvoorbeeld databases in the cloud een privacyrisico. Dat emotieherkenning voornamelijk gebaseerd is op westerse data op het gebied van emoties kan ook discriminatie in de hand werken, omdat deze systemen getraind zijn op data die niet representatief is voor alle culturen en bevolksingsgroepen.

Volgens Wolfsen is het „een ethisch vraagstuk of je als maatschappij het herkennen van emoties met AI toelaatbaar vindt. Daarvoor is een maatschappelijke en democratische afweging nodig: of je deze systemen wilt gebruiken en zo ja, in welke vorm en waarvoor.”

Praktijkvoorbeelden

In haar rapportage richtte de AP zich dit jaar vooral op emotieherkenningssystemen in de praktijk. Zo onderzocht de toezichthouder het gebruik van emotieherkenning met AI bij het meten van de hartslag in bijvoorbeeld smartwatches en fitnessarmbanden. Daarnaast nam ze enquêtes af bij klantenservices die gesprekken opnamen en analyseerden met taalmodellen die audio van geluidsopnames omzetten in tekst emoties van de betrokkenen. . Uit al deze onderzoeken bleek dat de AI-systemen emoties niet altijd accuraat konden herkennen en dat de uitkomsten van de analyses onbetrouwbaar waren. Zo was niet te achterhalen op basis waarvan een sporthorloge had vastgesteld dat iemand stress ervoer of waarom aan ‘blije’ of ‘boze’ woorden deze specifieke emoties waren toegekend.

In het geval van de enquêtes bij de klantenservices concludeerde de AP dat het voor de bedrijven zelf niet duidelijk was dat de gesprekken ook werden opgenomen voor emotieherkenning. Zij dachten dat dit puur voor trainingsdoeleinden gebeurde, wat een inbreuk van de privacy kan vormen.

Daarom concludeert de AP dat er zeer voorzichtig moet worden omgegaan met het gebruik en toestaan van dit soort toepassingen, om risico’s op discriminatie en inperking van de menselijke autonomie en waardigheid te minimaliseren. Wolfsen: „Emoties raken sterk aan je menselijke autonomie. Als je emoties wilt herkennen, moet dat dan ook zeer zorgvuldig en op basis van betrouwbare technologie gebeuren.” Daar is momenteel volgens Wolfsen nu vaak geen sprake van.

Delen

Mail de redactie

„We schaffen Pinksteren af. We schaffen Pasen af. En we schaffen Kerstmis af.”

Deze aankondiging klinkt uit de mond van de Deense premier Mette Frederiksen in een video die in april vorig jaar door de voorzitter van de Deense Volkspartij Morten Messerschmidt werd verspreid. In een soort persconferentie, waarin haar stem nogal robotachtig klinkt, kondigt zij de afschaffing van de feestdagen aan.

Bovenaan de video is een sticker zichtbaar, met de tekst „AI-gegenereerd”. Het filmpje, een zogenoemde deepfake, is nep. Met behulp van kunstmatige intelligentie had Messerschmidt een nepfilmpje gemaakt dat niet makkelijk van echte beelden te onderscheiden is. Het leidde tot enorme commotie in Denemarken: de ene na de andere Deense politicus veroordeelde Messerschmidts actie, en riep op tot een verbod op dit soort video’s. Een van hen was minister van Cultuur Jakob Engel-Schmidt.

Iets meer dan een jaar later voegt Engel-Schmidt de daad bij het woord. „Mensen kunnen door de digitale kopieermachine worden gehaald en voor allerlei doeleinden worden misbruikt”, zei de minister, „en dat zal ik niet accepteren.” Met een wetsvoorstel, waarbij alle Denen auteursrecht krijgen op hun lichaam, gezicht en hun stem, wil de regering burgers beschermen. Voortaan moeten Denen toestemming geven, voordat een deepfake gemaakt mag worden. Enkele Nederlandse Kamerleden hebben de regering gevraagd om onderzoek naar een soortgelijke wet.

1
Wat is een deepfake?

Een deepfake is een gemanipuleerde video waarbij beeldmateriaal wordt bewerkt. Met behulp van AI worden beelden gemaakt die nauwelijks van echt te onderscheiden zijn. Doorgaans zegt of doet een (bekend) persoon in dit soort filmpjes dingen die niet werkelijk gezegd of gebeurd zijn.

De eerste deepfake verscheen in 2017 online. Het aantal deepfake-video’s is daarna snel toegenomen, met 550 procent sinds 2019 volgens een schatting van het Amerikaanse State of Deepfakes-onderzoek.

In zo’n 95 procent van de gevallen gaat het om pornovideo’s. Volgens cijfers van Offlimits, een expertisecentrum voor onlinemisbruik, dreigt 2025 een recordjaar te worden voor deepfake-naaktbeelden. Tussen januari en april waren er al bijna evenveel meldingen als in heel 2024.

Deepfakes worden alsmaar realistischer, nu techbedrijven als Google, OpenAI en Meta miljarden steken in de ontwikkeling van AI. Systemen worden steeds beter in het imiteren van menselijk handelen en om levensechte video’s te produceren is veel kennis van programmeren niet meer nodig.

2
Wat is de kans dat de wet door het Deense parlement aangenomen wordt?

Het wetsvoorstel heeft zeer brede steun: negen van de elf partijen in de Deense Folketing staan er achter. De Deense Volkspartij en de Liberale Alliantie, die beide deepfake-video’s van premier Frederiksen hebben verspreid, zijn tegen.

3
Hoe zit het met de regelgeving in Nederland?

Al in 2022 kwam het Wetenschappelijk Onderzoek- en Datacentrum (WODC) tot de conclusie dat het Nederlandse recht best goed toegerust is om deepfakes aan te pakken. Hoewel niet alle deepfakes strafbaar zijn (porno-deepfakes of deepnudes zijn dat wel op basis van het Wetboek van Strafrecht), kan iemand vaak wel eisen dat de video van hem of haar wordt verwijderd.

„Er zijn een aantal verschillende wegen waarmee deepfakes bestreden kunnen worden”, aldus Dirk Visser, hoogleraar intellectueel eigendom aan de Universiteit Leiden. „Allereerst heeft iedereen een portretrecht, waarbij jouw redelijk belang wordt afgewogen met het belang van de maker van de video.”

Daarnaast kunnen slachtoffers een beroep doen op de Algemene Verordening Gegevensbescherming (AVG). Als een gezicht te herkennen is in een deepfake en die wordt openbaar verspreid, verwerkt de maker persoonsgegevens. „Dan is toestemming nodig”, legt Visser uit. „Is die niet gegeven, dan kan je de maker of het platform vragen om de video te verwijderen.”

4
Wat is dan het probleem?

Het grootste struikelblok is de handhaving. Fulco Blokhuis, advocaat AI en intellectueel eigendom bij Boekx Advocaten, stelt „dat de politie, het ministerie van Justitie, de Autoriteit Consument en Markt en het Commissariaat van de Media wel de middelen hebben om op te treden, maar het hun prioriteit niet heeft”. Andere experts geven Blokhuis gelijk.

Een ander probleem ligt bij de stem van een persoon. Het portretrecht geldt daarvoor niet. De Hoge Raad (de hoogste rechter in Nederland) vat het portretrecht ruim op, en deepfakes vallen daaronder, legt hoogleraar Visser uit. „Het bedrijf Picnic gebruikte eens voor een reclame een lookalike van Max Verstappen. Dat bleek wel onder het portretrecht van Verstappen te vallen. Maar het moet iets visueels zijn.”

Blokhuis en Visser kijken daarom uit naar een nieuwe wet naar Deens voorbeeld. „Dan is de onzekerheid van een belangenafweging eraf en moet je altíjd toestemming hebben voordat je zoiets plaatst. Het biedt extra garantie”, zegt Visser. VVD-Kamerlid Rosemarijn Dral bevestigt aan NRC dat zij al driekwart jaar aan een vergelijkbaar wetsvoorstel werkt.

Delen

Mail de redactie