Wat vindt NRC | De samenleving blijft onvoorbereid op AI, zo blijkt weer nu Meta openbare berichten gaat gebruiken

Alle openbare berichten en foto’s die mensen ooit hebben geplaatst op Facebook en Instagram worden vanaf deze dinsdag door moederbedrijf Meta gebruikt voor het trainen van kunstmatige intelligentie. Hoewel gebruikers daar tijdens het posten geen toestemming voor hebben gegeven, kan Meta door een aanpassing van de voorwaarden die toestemming alsnog verkrijgen. Hierdoor leert Meta zijn AI „om culturen en gebruiken van Europeanen beter te begrijpen”, schreef het bedrijf in een persbericht. Wat het bedrijf daarmee precies bedoelt, en hoe ze er geld mee willen gaan verdienen, vertelde het er niet bij. Maar oprichter Mark Zuckerberg droomt wel hardop van een wereld waarin digitale assistenten de rol van ‘coach, psycholoog of zelfs liefdespartner’ kunnen spelen.

Zelfs voor mensen die deze droom delen zou dan toch de vraag moeten opkomen: mag Meta dit zomaar op deze manier doen? Ja, dat mag blijkbaar, want hoewel privacytoezichthouder Autoriteit Persoonsgegevens (AP) zich wel geroepen zag tot een opvallende campagne om mensen te wijzen op de opt-out-mogelijkheid, ziet het verder geen mogelijkheden om op te treden. De toezichthouder van Ierland, waar Meta zijn internationale hoofdkantoor heeft, is immers verantwoordelijk. De Ierse toezichthouder, vaker rekkelijk, vindt de wijziging van de voorwaarden prima – na beloftes van Meta over bijvoorbeeld een extra ‘filter’ om gegevens te strippen van persoonskenmerken voordat die de trainingsmodellen ingaan.

Maar er zijn veel redenen waarom dit helemaal niet prima is, zowel principieel als meer praktisch. Onder technologie-experts is bijvoorbeeld veel consensus over dat zo’n filter vrijwel niet te handhaven is in de context van AI-modellen. Die ontdekken en genereren namelijk zelfstandig patronen in grote hoeveelheden data, en die patronen zijn niet of vrijwel niet te herleiden tot specifieke invoer. Als Meta straks toch allerlei gevoelige persoonsgegevens blijkt te hebben, is niet of nauwelijks na te gaan of dat kwam doordat het dit filter toevallig te soepel had ingesteld of dat het de data elders verzamelde.

De kwestie legt nog maar eens bloot hoe onvoorbereid de samenleving is op AI. En met Mark Zuckerberg op de eerste rij bij de inauguratie van Donald Trump hoeft niemand illusies te hebben over de vermenging van politiek en big tech. Het laat ook zien hoe selectief de publieke aandacht is verdeeld. Nu de bezwaren gaan over privé-foto’s en -berichten op Insta, klinkt gelukkig al luider protest dan bij eerdere gevallen waarbij muziek, foto’s, kunstwerken of artikelen van professionele makers ongevraagd en zonder toestemming werden gevoerd aan AI-modellen om ze te trainen. De leercurve, bij zowel burgers als beleidsmakers, moet steiler.

Grote techbedrijven, veelal Amerikaans of Chinees, hebben zich met hun internetplatforms in het hart van Europese samenlevingen gepositioneerd, en gebruiken die positie nu voor het trainen van een krachtige en onvoorspelbare technologie waarbij steeds nadrukkelijker de vraag opkomt: wiens belang dient die? Welke maatschappij helpt die creëren? Welke alternatieven zijn er nog?

Vorige week klonk in een opiniestuk in NRC een pleidooi voor een nationale AI-strategie en een Nederlandse AI-top; om te voorkomen dat Nederland zo achter de feiten blijft aanhobbelen. Dat zou niets te vroeg zijn en daarbij horen zeker kwesties over privacy en burgerrechten – blijkt wederom.