Hoe Big Tech en AI het politieke bedrijf én gewone levens binnendringen

Het zijn pijnlijke anekdotes die Marietje Schaake, voormalig Europarlementariër, over politici vertelt in haar boek De tech coup. Die keer in 2018 bijvoorbeeld, toen de fractieleiders in het Europees Parlement de gelegenheid kregen om Mark Zuckerberg, topman van Facebook, eens stevig aan de tand te voelen over wat zijn bedrijf eigenlijk deed om persoonlijke gegevens van gebruikers te beschermen.

Erg moeilijk werd het Zuckerberg niet gemaakt. Hij kreeg alle ruimte om zelf te kiezen welke vragen hij wilde beantwoorden en welke niet. Al snel moest hij weer door naar Parijs, voor een liefdadigheidsbijeenkomst. ‘Maar voor hij de zaal verliet’, schrijft Schaake, ‘haastten leden zich om een selfie te nemen met de beroemde tech-miljardair.’

Kort daarvoor had de Amerikaanse Senaat nog pijnlijker verzuimd om de Facebook-voorman flink door te zagen – bijvoorbeeld over desinformatie op het platform rond de presidentsverkiezingen van 2016. De senatoren bleken amper te begrijpen wat Facebook was, of hoe het zijn geld verdient („Senator, we plaatsen advertenties”, verhelderde de man die er op zijn 23ste miljardair mee was geworden met een grijns).

Sindsdien hebben volksvertegenwoordigers aan beide kanten van de oceaan wel bijgeleerd. Soms knettert het zelfs in de contacten tussen politici en technologiebazen. En vooral in Europa is het gelukt om Big Tech ten minste aan een aantal wettelijke regels te binden. Maar nog altijd is de macht van de technologiebedrijven zó groot, stelt Schaake niet als eerste, dat zij een bedreiging vormen voor het democratische gehalte van onze samenlevingen.

Toen vorig jaar voor iedereen duidelijk was dat de snelle ontwikkelingen op het gebied van kunstmatige intelligentie (AI) allerlei risico’s met zich meebrengen, bleken Amerikaanse senatoren opnieuw geen partij voor Silicon Valley. Bij een verhoor van Sam Altman, de ceo van OpenAI (het bedrijf achter ChatGPT), werden de senatoren ‘overrompeld door AI en stonden ze welwillend en respectvol tegenover Altmans voorstellen voor regulering’. Ze vroegen hem zelfs om geschikte kandidaten voor te dragen die toezicht zouden kunnen houden op de sector, en dus ook op Altmans bedrijf. Of de slager zijn eigen vlees maar wilde keuren.

Veel te lang is algemeen geaccepteerd dat informatietechnologie de wereld alleen maar beter kan maken, betoogt Schaake. Regeringen gaven technologiebedrijven alle ruimte en vertrouwden op vormen van zelfregulering. Maar raden van toezicht, ethische beginselverklaringen en tandeloze visiedocumenten: het leidt allemaal maar af van ‘de overheidstaak om wetten aan te nemen en de handhaving ervan te organiseren’.

Nieuwe grootmachten

De centrale vraag van Schaake’s boek is of democratieën daartoe eigenlijk nog wel in staat zijn, nu zij op zo veel terreinen van de grote technologiebedrijven afhankelijk zijn – van cyberveiligheid en defensie tot de opslag van alle mogelijke data, van communicatie tot onderwijs en gezondheidszorg. Als een land het doelwit is van een grote cyberaanval is de kans groot dat Google of Microsoft beter weten wat er aan de hand is en wat er moet gebeuren, dan de overheid in kwestie. ‘Overheidsinstanties, van waterleiding- en energiebedrijven tot lokale politiekorpsen en ziekenhuizen zijn niet meer in staat hun eigen computersystemen te beheren en te beschermen. Het publieke belang wordt uitgehold door privatisering van alles wat digitaal is.’

Overtuigend laat Schaake zien hoe de grote technologiebedrijven in feite grootmachten zijn geworden, die rollen op zich hebben genomen die vroeger tot het domein van nationale staten behoorden. Maar of dat werkelijk het gevolg is van een ‘coup’, zoals de titel stelt, kun je betwijfelen. Schaake zelf laat zien dat overheden op alle niveaus Big Tech juist met open armen hebben binnengehaald. Het besef dat het belangrijk is om een (liefst democratisch gelegitimeerde) tegenmacht te organiseren tegen de particuliere bedrijven uit Amerika, begint beleidsmakers pas de laatste jaren echt te dagen.

Wat het boek zo interessant maakt is dat Schaake vertrouwd is met zowel de wereld van politiek en beleid, als die van Silicon Valley. Van nabij weet ze wat er in beide werelden speelt, en wat er op beide werelden is aan te merken. Van 2009 tot 2019 was ze lid van het Europees Parlement (voor D66). Internationaal werd ze gerespecteerd om haar kennis en inbreng op het gebied van de digitalisering. In 2019 verliet ze de politiek en verhuisde ze, schrijft ze, ‘naar het hol van de leeuw’, ofwel Silicon Valley. Daar werd ze directeur internationaal beleid bij het Cyber Policy Center van de Stanford Universiteit.

Door de persoonlijke ervaringen en observaties van Schaake onderscheidt haar boek zich van andere aanklachten tegen de macht van Big Tech. Via een collega kwam ze erachter dat Meta (het moederbedrijf van Facebook en Instagram) een AI-chatbot had ontwikkeld die op de vraag ‘Wie is een terrorist?’ antwoordde: ‘Nou, dat hangt ervan af aan wie je het vraagt. Volgens sommige regeringen en twee internationale organisaties is Maria Renske Schaake een terrorist.’ Droogjes merkt ze op dat dit antwoord vooral vreemd was, omdat de voornamen werden gebruikt die in haar paspoort staan, en niet de naam waaronder ze publiekelijk en online bekend is.

Dramatisch is haar verslag van de volstrekt in de soep gelopen verkiezingen in Kenia, in 2017. Om die eerlijk te laten verlopen was zwaar geïnvesteerd in digitalisering van de registratie van kiezers en uitgebrachte stemmen. Schaake, die zes weken in Kenia was om de missie van Europese verkiezingswaarnemers te leiden, stelde vast dat het mobiele netwerk waarmee de uitslagen moesten worden doorgegeven overbelast raakte. De persoonlijke gegevens die de kiezers moesten delen werden niet beschermd. De tablets waarop kiezers zich moesten aanmelden konden niet worden opgeladen omdat de stroom uitviel.

Kortom: één grote puinhoop. De verkiezingen moesten worden overgedaan, wat Kenia opnieuw heel veel geld kostte. Eén van de lessen van die ervaring: met de juiste procedures blijft stemmen op papier de goedkoopste en veiligste optie. Maar ja, daar verdient de technologiesector niets aan.

Perfecte aanvulling

De brede, politieke blik van Schaake op hoe ingrijpend de wereld door internet verandert, vindt een perfecte aanvulling in een ander boek, dat ook onlangs verscheen: In de schaduw van AI, door Madhumita Murgia. Murgia, AI-redacteur van de Financial Times, richt haar blik niet op Silicon Valley en de politiek. Als verslaggever reist ze de wereld over om te onderzoeken hoe de levens van individuele mensen door digitale technologie, en in het bijzonder kunstmatige intelligentie, zijn veranderd – vaak niet, of niet alleen, ten goede.

Dat levert mooie portretten op. Van een Roemeense migrant in Londen bijvoorbeeld, die aanvankelijk blij is met zijn werk als chauffeur voor Uber. Tot hij erachter komt dat niet alle chauffeurs gelijk behandeld worden door het algoritme, Uber hem in een geautomatiseerd bericht beschuldigt van fraude en hem niet verteld wordt waarom. Bij niemand kan hij uitleg vragen, geen levend mens kan hij aanspreken – en zo ontdekt hij wat het betekent ‘om te werken voor een black box’.

De Iraakse Hiba Hatem Daoud, die met haar man en hun drie tieners in de Bulgaarse hoofdstad Sofia op de dertiende verdieping van een groot flatgebouw woont, vluchtte tien jaar geleden voor de oorlog. Nu is ze kostwinner – en een van de miljoenen onzichtbare AI-werkers.

Als de kinderen naar school zijn brengt ze het huis op orde, tot ze op haar telefoon een melding krijgt dat er werk voor haar klaar staat. Op haar laptop gaat ze aan de slag. Ze moet om AI te trainen afbeeldingen van een label voorzien: op satellietbeelden aanklikken wat velden, oceanen en steden zijn, bij straattaferelen wat voetgangers, zebrapaden en stoplichten zijn.

Het waarom van dit werk begrijpt Hiba niet echt. Maar het is eenvoudig, het past in haar leven en ze kan er haar gezin van onderhouden. Ze geniet zelfs van het werk, althans van de stabiliteit die het in haar leven heeft gebracht. Maar toen de opdrachtgevers met nieuwe regels kwamen, waardoor ze als ‘dagwerker’ ’s avonds geen klussen meer mocht aannemen, begon ze oog te krijgen voor de kwetsbare positie waarin ze verkeerde. Toen ze zich over de regel beklaagde, werd ze dertig dagen op non-actief gesteld.

Kwetsbare groepen

Dit soort werk verdoezelt een publiek geheim, schrijft Murgia: dat AI-technologie niet autonoom ‘leert’, zoals gemakshalve vaak wordt gezegd, maar ‘afhankelijk is van de input van miljoenen mensen’. Vaak worden die geworven uit kwetsbare groepen: gemarginaliseerde jongeren, vluchtelingen, alleenstaande moeders, en veelal in delen van de wereld waar ze bereid zijn te werken voor weinig geld. Ze zijn de ‘ondergewaardeerde steunpilaren van de AI-industrie’.

En soms gaat het om extreem zwaar werk, bijvoorbeeld voor de mensen in Kenia die de hele dag voor de grote bedrijven in de VS gruwelijke beelden moeten bekijken, om ze te markeren als ongeschikt voor het trainen van AI. Murgia, geboren en getogen in India, schrijft hier nuchter maar met compassie over. Ze herkent een patroon: datakolonialisme, de exploitatie van kwetsbare gemeenschappen door machtige technologiebedrijven in een rijker deel van de wereld.

Wat Murgia bedoelt met ‘de interactie van AI met de echte wereld’, komt nog schrijnender tot uitdrukking in het verhaal van de Britse Helen Mort (36). Door een kennis werd ze erop gewezen dat er expliciete foto’s van haar op een pornosite stonden. Iemand bleek foto’s van haar Facebook- en Instagram-account gehaald te hebben om haar met digitale montagetools af te beelden als slachtoffer van een gewelddadige groepsverkrachting. Eerst begreep ze er niets van, later kwam ze erachter dat het ging om deepfakes, gegenereerd met behulp van AI-technologie. ‘Te gek dit’, had iemand erbij geschreven.


Lees ook

Hoogleraar Anu Bradford: ‘Ook in de VS groeit het besef dat we Big Tech moeten beteugelen’

Hoogleraar Anu Bradford: ‘Ook in de VS groeit het besef dat we Big Tech moeten beteugelen’

Helen kon de beelden niet uit haar hoofd zetten. Ze verzocht de website om die weg te halen, maar kreeg geen reactie. Ze begon te piekeren welke man in haar leven dit gedaan kon hebben, begon iedereen te wantrouwen, en had het gevoel dat haar identiteit onherstelbaar was beschadigd.

Murgia vertelt niet alleen dit soort persoonlijke verhalen, ze plaatst ze ook in perspectief. Ze vertelt dat er inmiddels honderden gebruiksvriendelijke ‘naakt-apps’ bestaan, waarmee gebruikers foto’s van geklede vrouwen kunnen uploaden, waarna de AI ze ‘uitkleedt’, ofwel hun lichamen vervangt door naakte versies die het algoritme voortbrengt , inclusief borsten en vulva’s. In een anonieme peiling zegt 63 procent van de gebruikers dat ze foto’s gebruiken van meisjes die ze in het echte leven kennen.

Nederlandse uitwassen

Murgia schrijft ook over Nederlandse uitwassen van misplaatst vertrouwen in AI. Het gezin van Diana Sardjoe uit Amsterdam-Oost raakte ernstig ontwricht, toen haar 14-jarige zoon niet alleen gearresteerd werd omdat hij een leeftijdgenoot met een mes had bedreigd, maar ook werd opgenomen in de zogenoemde Top600-lijst van toenmalig burgemeester Van der Laan voor gewelddadige criminele jongeren. Zijn broer kwam op een lijst met ‘broers van criminele jongeren’. Allemaal omdat deze groepen een verhoogd risico zouden hebben om gewelddadige misdrijven te plegen. Die hadden ze nog niet gepleegd, maar volgens het algoritme hadden ze wel voldoende kenmerken om ze alvast extra in de gaten te houden. De politie liep de deur plat bij de familie. Diana had het gevoel dat haar leven en dat van haar zoons was gekaapt en het scheelde weinig of het preventieprogramma was een self-fulfilling prophecy geworden.


Lees ook

Valt Big Tech nog in te halen?

Valt Big Tech nog in te halen?

Bij de verhalen uit In de schaduw van AI is het moeilijk om optimistisch te blijven over de belofte van kunstmatige intelligentie. Op de laatste pagina’s schrijft Murgia dat haar onderzoek niet alleen haar liefde voor de technologie heeft getemperd, maar ook haar zélf heeft veranderd. Als lezer krijg je door haar boek het zorgelijke gevoel dat je beter begrijpt wat leven in tijden van AI kan betekenen.