Clearview AI: het bedrijf dat met gezichtsherkenning verder gaat waar zelfs Google en Facebook stoppen

Recensie

Technologie In Je gezicht is nu van ons beschrijft journalist Kashmir Hill de opkomst van het omstreden Clearview AI, dat software bouwde die vrijwel elke westerse burger kan identificeren.

Hoan Ton-That, topman van Clearview AI, demonstreert de gezichtsherkenningssoftware met zijn eigen foto in 2022.
Hoan Ton-That, topman van Clearview AI, demonstreert de gezichtsherkenningssoftware met zijn eigen foto in 2022. Foto Seth Wenig/AP

Het is een vreselijk lastig dilemma. Willen we een wereld waarin de overheid met behulp van gezichtsherkenning iedereen op straat kan identificeren? Waarin iedereen in de kroeg of in de trein je naam kan achterhalen, alleen door je gezicht te scannen met de camera van een telefoon?

Waarschijnlijk niet. Maar wat als dezelfde technologie de dader van een verkrachting of overval kan herkennen op beeld? Of misbruikers kan identificeren in kinderporno?

Vorige week verscheen het boek Your Face Belongs to Us (in het Nederlands verschenen als Je gezicht is nu van ons) van The New York Times-journalist Kashmir Hill. Een knap geschreven en onthullend boek over de opkomst van het Amerikaanse techbedrijf Clearview AI. Dit bedrijf van topman en oprichter Hoan Ton-That bouwde software die, met behulp van een database met tientallen miljarden foto’s van gezichten, vrijwel elke westerse burger kan identificeren. Iedereen die ooit met zijn gezicht op internet heeft gestaan, is door Clearview AI te vinden.

Een goudmijn voor opsporingsdiensten, zo blijkt. Als Hill in 2020 over Clearview AI publiceert, komt het bedrijf voor het eerst – ongewenst – in de openbaarheid. Clearview AI wordt dan al door tientallen politie- en opsporingsdiensten in de Verenigde Staten gebruikt om criminelen te identificeren, die bijvoorbeeld op camerabeelden opduiken.

Voor haar boek volgde Hill de opkomst van het bedrijf, dat in 2017 werd opgericht door Ton-That en Richard Schwartz, een voormalig consultant en gemeenteraadslid uit New York. Beiden hebben geen enkele achtergrond in biometrische gegevens en hebben, zo schetst het boek, feitelijk geen idee wat ze precies aan het doen zijn.

Ton-That trekt het project. De Australiër gaat in 2007 naar de VS met als doel een populaire app te bouwen en rijk te worden. Dat begint met flauwe projecten, zoals een app (‘Trump Hair’) waarmee je een persoonlijke foto kan voorzien van de karakteristieke Trump-kuif. En het eindigt met een bedrijf dat, aldus het boek, in potentie onze complete samenleving kan ontwrichten.

Ton-That houdt er dubieuze denkbeelden op na. Zo gelooft hij dat of een persoon aanleg heeft tot criminaliteit af te lezen is aan gezichtskenmerken. Als Ashley Madison, een datingsite voor mensen die vreemdgaan, wordt gehackt, verzamelt hij de namen en foto’s van 39 miljoen profielen. Hij denkt zo een patroon te kunnen vinden in de gezichten van vreemdgangers.

Dat lukt niet, maar Ton-That slaagt er wel in miljarden foto’s van gezichten te verzamelen die op het internet zijn achtergelaten. Daarvoor schraapt Clearview AI tal van websites leeg, zonder toestemming te vragen. Zo slaagt het bedrijf erin onder meer miljoenen foto’s van Facebook, fotosite Flickr en datingapp Tinder te plukken en die te koppelen aan een persoonlijke identiteit.

Angstbeeld van China

Clearview AI deed wat grote techbedrijven als Google en Facebook technisch gezien ook konden, maar niet durfden: een enorme verzameling foto’s aanleggen en daar kunstmatige intelligentie op loslaten. Het angstbeeld van China, waar er zelfs wc-papierhouders zijn met gezichtsherkenning om te voorkomen dat mensen te veel gebruiken, is toch te groot.

En dus ziet Big Tech hoe een kleine start-up er met de grote overheidscontracten vandoor gaat. De technologische kennis halen Ton-That en zijn collega’s gewoon uit wat voor iedereen vrijelijk beschikbaar is: open source-modellen en wetenschappelijke papers. Daarmee is het boek direct ook een waarschuwing tegen hetgeen waar velen in de AI-gemeenschap voor pleiten: stel de technologie ter beschikking van iedereen, zodat niet slechts een beperkt aantal grote bedrijven ervan profiteert. Daar is ongetwijfeld iets voor te zeggen, maar het heeft als risico dat juist start-ups zoals Clearview AI verder gaan waar Google en Facebook stoppen.

Hoe de technologie achter Clearview AI precies werkt, vertelt het boek niet. Zo blijft het onduidelijk hoe Clearview AI, naar eigen zeggen, erin slaagt met meer dan 99 procent betrouwbaarheid gezichten te analyseren. In plaats daarvan weidt het boek soms onnodig uit met historische lessen, waarbij zelfs Aristoteles erbij wordt gehaald om het belang van gelaatsuitdrukkingen duidelijk te maken.

Ook al werkt de technologie van Clearview AI klaarblijkelijk goed, af en toe gaat het vreselijk mis. Zoals bij Randal Quran Reid, die zes dagen in de gevangenis zat omdat hij (onterecht) door Clearview AI werd geïdentificeerd. Extra pijnlijk: als het misgaat gebeurt dat vooral bij mensen met een donkere huidskleur, een bekend probleem bij gezichtsherkenningtechnologie. Daar komt bij dat politiediensten die Clearview AI gebruiken er dusdanig op vertrouwen, dat het gewone politiewerk – de straat op – in het gedrang komt.

Clearview AI groeit uit tot een onmisbare dienst voor politie- en overheidsdiensten, met name in de VS. Het boek beschrijft hoe er verkrachters en moordenaars zijn gevonden dankzij Clearview-technologie. Ook in Nederland: uit onderzoek van de Amerikaanse nieuwssite Buzzfeed bleek dat de Nederlandse politie in 2020 en 2021 in totaal „vijftig tot honderd keer” van Clearview AI gebruikmaakte.

Terwijl overheidsdiensten gretig gebruikmaken van de technologie van Clearview AI, durft het bedrijf de app nog niet uit te brengen voor gewone burgers. Ton-That heeft een VR-bril laten bouwen die is aangesloten op Clearview AI, waarmee hij direct namen en informatie van iedereen die hij ziet in zijn bril geprojecteerd krijgt. Technologie die in eerste instantie is gebouwd voor militaire doeleinden, maar misschien ooit wel gemeengoed gaat worden.

Nog niet, denkt Ton-That, die zijn bril demonstreert aan Hill maar er nog niet de straat mee op durft uit angst voor alle reacties. Burgers die elkaar gaan bespioneren is blijkbaar nog altijd enger dan een overheid die zijn burgers bespioneert. De angst voor Big Brother valt mee, die voor Little Brother is des te groter.