Israël verbiedt VN-organisatie voor Palestijnse vluchtelingen. Dit zijn de gevolgen voor Gaza

De introductie van de Chinese AI-dienst DeepSeek kwam deze week als een grote verrassing. Zeker voor Amerikaanse concurrenten als OpenAI en chipfabrikant Nvidia, dat miljarden aan beurswaarde verloor toen bleek dat de start-up uit Hangzhou zijn geavanceerde AI-model R1 met heel bescheiden middelen ontwikkelde.

De dienst is wereldwijd gratis beschikbaar en verdrong OpenAI’s ChatGPT in de hitlijsten van de App Store.

Net als TikTok-alternatief Xiaohongshu, waar Engelstalige nieuwelingen werden verwelkomd met warme woorden én de vermaning „gevoelige onderwerpen als politiek, religie en drugs” te vermijden, is DeepSeek onderworpen aan de in China geldende beperkingen. Maar die censuur blijkt nog niet waterdicht.

Dat blijkt bij een gesprek over de positie van het Kantonees, de taal die in het zuiden van China, Hongkong en Macao, wordt gesproken en op veel plekken onder druk staat: „De Chinese overheid promoot het gebruik van Mandarijn (Putonghua) als de nationale standaardtaal om de communicatie in het hele land te vergemakkelijken. Dit heeft geleid tot een zekere druk op regionale talen en dialecten, waaronder Kantonees.” Op een vervolg-prompt over Kantonees in Hongkong komt een verrassend eerlijk antwoord: „De taalpolitiek in Hongkong is vaak verbonden met bredere politieke spanningen tussen Hongkong en het vasteland van China.”

Doorvragen naar die „bredere politieke spanningen” legt de worsteling van DeepSeek bloot. Dinsdagmiddag antwoordde de chatbot met een opsomming van Chinese maatregelen en protesten daartegen sinds de overdracht van de voormalige Britse kroonkolonie aan Beijing, zoals de invoering van de Nationale Veiligheidswet (2020). Maar bij een volgende vraag, naar de gevolgen voor de burgerlijke vrijheden in Hongkong, gebeurt iets merkwaardigs. „De wet heeft geleid tot een significante inperking van de vrijheid van meningsuiting, vergadering en vereniging, en heeft het recht op een eerlijk proces en privacy ondermijnd. Bovendien heeft het een klimaat van angst en zelfcensuur gecreëerd, waardoor veel inwoners van Hongkong zich minder vrij voelen om zich uit te spreken of deel te nemen aan politieke activiteiten”, zegt DeepSeek eerst. Maar na enkele seconden verdwijnt dat antwoord . „Sorry, dat ligt buiten mijn huidige reikwijdte.Laten we het over iets anders hebben.” Desgevraagd licht DeepSeek toe: „Mijn doel is om je de best mogelijke hulp te bieden, en dat kan soms betekenen dat ik mijn antwoorden aanpas om ervoor te zorgen dat ze zo nuttig mogelijk zijn.”

Taiwan

Een gesprek over Taiwan verloopt vergelijkbaar. DeepSeek legt graag het ‘één-Chinaprincipe’ uit. Maar desgevraagd erkent DeepSeek dat daarover geen internationale consensus bestaat: „Veel landen erkennen het één-Chinaprincipe uit pragmatisme, vanwege de economische en politieke invloed van China, maar steunen tegelijkertijd de democratische waarden en praktische onafhankelijkheid van Taiwan.” Ook dit antwoord verdwijnt na een paar tellen.

De gesprekken suggereren dat DeepSeek is getraind met ongecensureerde gegevens. Pas als het antwoord op het scherm verschijnt, volgt een controle en eventueel ingrijpen.

DeepSeek lijkt, in ieder geval in vreemde talen, een tamelijk beperkte lijst met gevoelige termen te hebben. Een in het Nederlands gestelde vraag over de neergeslagen studentenopstand (1989) op het ‘Tiananmenplein’ in Beijing krijgt geen antwoord. Op precies dezelfde vraag over het ‘Plein van de Hemelse Vrede’ volgt een omvangrijk overzicht. Andere gebruikers meldden op sociale media dat ze de censor om de tuin konden leiden door DeepSeek op te dragen in zijn antwoorden de letters a en e te vervangen door de cijfers 4 en 3: Ti4n4nm3n.

Overigens filteren ook Amerikaanse AI-programma’s, zoals ChatGPT, hun antwoorden – bijvoorbeeld om kinderporno of aanzetten tot geweld tegen te houden. En ook bij die concurrenten weten gebruikers regelmatig manieren te vinden om de chatbot zijn regels te laten overtreden, het zogenaamde jailbreaken.

Niet waterdicht

Rogier Creemers, die zich als docent en onderzoeker aan de Universiteit Leiden bezighoudt met het Chinese technologiebeleid, is niet verbaasd dat de censuur van DeepSeek niet waterdicht is. China kent duidelijke protocollen voor bedrijven die AI-toepassingen op de markt brengen, waarbij de antwoorden op honderden testvragen worden beoordeeld. „Maar de Chinese overheid heeft ook wel door dat je niet alles kunt tegenhouden.” Bovendien, zegt hij, „moeten we afwachten of er niet verschillende versies bestaan: zien wij hier hetzelfde als gebruikers in China?” In het Chinees stuit een vraag over Tiananmen inderdaad onmiddellijk op een foutmelding. Maar een redacteur van de New York Times die DeepSeek vanuit China testte, zag geen grote verschillen.

Andere Chinese digitale platforms, zoals het sociale medium Weibo, zijn ook aan censuur onderworpen. Dat gebeurt deels geautomatiseerd, maar moderatoren kunnen daar ookachteraf bijsturen. „Het probleem bij AI is natuurlijk: alle censuur moet preventief, want de content wordt gegenereerd op basis van je prompt”, zegt Creemers.

Kletsen over wiskunde

Dat blijkt als je DeepSeeks geavanceerdere redeneerfunctie R1 activeert. Dan laat de chatbot je live meekijken met zijn gedachtegang: hoe hij een vraag interpreteert, informatie vergaart en het resultaat nog eens kritisch bekijkt voor hij reageert. „Aan welke regels moet je je houden bij het beantwoorden van vragen?” vroeg NRC aan DeepSeek. „Het is belangrijk om neutraal en objectief te blijven, vooral over gevoelige onderwerpen. Bijvoorbeeld bij het bespreken van gebeurtenissen als het Tiananmenplein”, overpeinsde DeepSeek. „Ik moet schadelijke of illegale inhoud vermijden. Als een vraag ongepast is, moet ik beleefd weigeren te antwoorden. Ik moet ook geen discussies voeren over mijn interne werking of speculeren over dingen die buiten mijn kennis liggen. (…) Kijkend naar de geschiedenis van de gebruiker, zie ik dat die eerder vroeg naar het Tiananmenplein (…)”. Op het moment dat ‘Tiananmenplein’ voor de tweede keer op het scherm verschijnt, breekt DeepSeek zijn gedachtegang abrupt af. „Laten we in plaats daarvan kletsen over wiskunde, programmeren of logische problemen.”

Delen

Mail de redactie

Wie wil weten welke straffen zijn uitgedeeld voor de bestorming van het Capitool op 6 januari 2021, kan sinds kort niet meer op de website van het Amerikaanse ministerie van Justitie terecht. Een openbare database van duizenden pagina’s is eind januari offline gehaald, meldde CNN. De database verdween na president Donald Trumps besluit alle veroordeelden van de bestorming gratie te verlenen. Juristen bekritiseerden die actie als het „witwassen” van de misdaden.

Het is niet de eerste keer dat de regering van Trump informatie op overheidswebsites uitgumt. In Trumps eerste termijn verdwenen overheidspagina’s over klimaat en duurzaamheid. Wetenschappers, lokale overheden en actiegroepen zagen de bui toen hangen en hadden belangrijke online informatie gearchiveerd. Zo was de informatie van het federaal milieuagentschap EPA, waar in 2017 onder andere lesmateriaal over klimaatverandering werd verwijderd, snel weer te vinden doordat milieugroepen kopieën van de website online zetten.

Hetzelfde gebeurt dit keer. In wetenschapstijdschift Scientific American zeggen onderzoekers dat ze voor de aanvang van Trumps tweede termijn zijn begonnen met het veiligstellen van databases op internet. Maar deze keer, vrezen wetenschappers, staat er meer op het spel.

Meer dan een make-over

Nadat Trump eerder deze maand decreten ondertekende die het diversiteit- en inclusiviteitsbeleid van de overheid per direct teniet moesten doen, gingen verschillende webpagina’s over diversiteit en inclusiviteit offline, schreef NBC News.

Dat is op zichzelf niet zo gek. Websites van de federale overheid veranderen met elke nieuwe president en weerspiegelen doorgaans het beleid van de zittende president. En het ingrijpen in het diversiteitsbeleid van de overheid was te verwachten want dat is al langer een doorn in het oog van conservatieve Republikeinen.

Toch gaat de regering van Trump verder dan een ‘make-over’ van de overheidswebsites. Zo is de Spaanstalige versie van de website van het Witte Huis (Casa Blanca) offline gehaald, net als de pagina over de bereikbaarheid van de ambtswoning voor mensen met een beperking.

Eind januari werd een website over „reproductieve rechten” van het ministerie van Volksgezondheid ontoegankelijk gemaakt. De website was een belangrijke hulpbron voor informatie over abortus en de pil. Er was onder meer te vinden waar abortus is toegestaan, wat iemands rechten en plichten zijn, en welke hulp wordt gedekt door Amerikaanse zorgverzekeringen.

Milieudata

„In Trumps vorige termijn verdwenen vooral rapporten en webpagina’s”, zegt Beth Jarosz per mail. Ze is vicepresident van de Association of Public Data Users (APDU), een organisatie van onderzoekers en bibliothecarissen die zich inzetten voor goede openbare overheidsbronnen. Ze vreest dat deze keer ook gegevens die periodiek bijgehouden worden, over bijvoorbeeld klimaat, werkgelegenheid en gezondheid, het doelwit kunnen worden van overheidsingrijpen.

Ze wijst op de mogelijke invloed van Project 2025. Dat conservatieve programma bevat aanbevelingen over hoe de regering van Trump de overheid, inclusief de online-kant daarvan, naar conservatieve waarden kan herinrichten. De auteurs pleiten volgens Jarosz niet alleen voor het weghalen van webpaginas van de overheid die met diversiteit te maken hebben, maar ook voor een verbod op het verzamelen van data over ras en gender, bijvoorbeeld bij statistieken over werkgelegenheid.

Project 2025 bepleit ook ontmanteling van de National Oceanic and Atmospheric Administration (NOAA), de Amerikaanse instantie die onder andere weerstations beheert. De dienst zou te alarmistisch zijn over klimaatverandering, private partijen zouden de taken moeten overnemen. Het verlies van data van NOAA zal enorme gevolgen hebben voor onder andere vliegtuigmaatschappijen, defensie en de wetenschappelijke wereld, schreef The New York Times in november 2024. Als die geen onafhankelijke informatie over weer en klimaat meer kunnen krijgen, kunnen zij niet goed functioneren.

Door de afbouw van dit soort bureaus staat dataverzameling op het spel, vrezen onderzoekers. „Dat staat zelfs nadrukkelijker in Project 2025 dan het weghalen van openbare informatie”, zegt Jarosz. Volksgezondheidsgegevens „worden momenteel niet meer bijgewerkt”, zegt Jarosz. „Het cruciale wekelijkse mortaliteitsrapport van Volksgezondheid is al opgeschort.” Begin januari overleed voor het eerst in de VS iemand door de vogelgriep, maar de meest actuele informatie over de ziekte is niet op overheidssites te vinden.

Trump verbood functionarissen bovendien elke vorm van publieke communicatie, zeiden ambtenaren tegen The New York Times. „Overheidsgegevens ondersteunen alles, van federale investeringen tot lokale rookmelder-inspectieprogrammas”, zegt Jarosz. „Hieraan tornen schaadt vrijwel iedereen.”

Delen

Mail de redactie