Chinese chatbots moeten op hun woorden passen. ‘Zegt je model dingen die je in China mag zeggen?’

De sfeer zit er goed in op de World AI Conferentie, China’s grootste evenement op het gebied van artificiële intelligentie. Buiten is het 38 graden in de Shanghaise zomer; binnen in de grote expositiehallen bewegen duizenden mensen – ondernemers, veel tech bros, maar ook gezinnen op een dagje uit – zich langs de kleurrijke paviljoens van China’s grote techbedrijven die hier op uitnodiging van de overheid hun innovaties op het gebied van kunstmatige intelligentie (AI) tentoonstellen.

De beurs geeft een inkijkje in wat er populair is op het gebied van AI-toepassingen in China. Naast koffiezettende robots en virtual reality-brillen, richten veel producten zich op onderwijs en het kantoorleven. Neem de ‘vergaderoordopjes’, waardoor een chatbot met je meeluistert tijdens een overleg, om er daarna gelijk een geschreven samenvatting van te maken. Handig in een werkcultuur waarin je baas op elk tijdstip van de dag een extra vergadering kan uitroepen. Met ceo’s op podia in donkere zalen en ‘road shows’ waar start-ups hun idee pitchen aan investeerders, lijkt het een typische techbeurs.

Maar nationalisme is er ook. In een centraal gelegen paviljoen kun je in het oud-Chinees chatten met bots die zijn gemaakt op basis van het werk van twee beroemde Chinese wiskundigen: Liu Hui en Zu Chongzhi, die in de derde en vijfde eeuw de rekenmethode voor het getal pi verbeterden. Programmeur Zhu Yu legt uit waarom haar bedrijf de bots ontwikkelde: „Bij AI denk je al snel aan Amerika, maar als je verder terugkijkt droeg ook het werk van deze Chinese denkers bij aan de ontwikkeling van moderne technologie.”

Concurrentie met de VS

Veel Chinese AI-bedrijven vergelijken hun producten met ChatGPT, de bekende chatbot van het Amerikaanse OpenAI. Ook zij ontwikkelden honderden nieuwe large language models, de generatieve AI-modellen getraind op grote hoeveelheden tekst waar de steeds betere chatbots op gebaseerd zijn. Volgens Xu Li, ceo van het Chinese SenseTime, is zijn nieuwe model, dat op de conferentie wordt gelanceerd, op veel punten al beter dan wat Open AI te bieden heeft.

„We zitten al op het niveau van ChatGPT 3.5, geef ons een tijdje!” roept ook een man in een geruit bloesje voor hij vertrekt naar zijn volgende afspraak. Meer informatie over zichzelf en zijn bedrijf wil hij niet geven, uit angst dat ‘Amerika erachter komt’.

Het is, naast al het AI-optimisme, dé onderliggende zorg op de conferentie. Hoe om te gaan met de groeiende concurrentie met de Verenigde Staten op het gebied van AI-ontwikkeling. Sinds door de VS exportrestricties op de meest geavanceerde chips werden ingesteld, kunnen ze niet meer aan Chinese bedrijven worden verkocht. Dat dit een flinke impact zal hebben op de ontwikkeling van AI in het land wordt steeds duidelijker, maar wie de race gaat winnen is dat nog niet.

Eigen hardware

„Daarom ben ik hier, om te kijken naar de nieuwe trends, en om te leren over hoe de industrie reageert op deze uitdaging”, vertelt Chen Shangwei, die werkt voor het Chinese elektriciteitsnetwerk. In zijn baan, waarin hij kunstmatige intelligentie inzet om nieuwe energiebronnen beter te kunnen integreren in het stroomnet, brengen de Amerikaanse restricties vooral meer werk met zich mee. Amerikaanse onderdelen moeten nu massaal vervangen worden door Chinese chips. „Het is een hele aanpassing.”

De gedwongen overschakeling naar Chinese chips leidt tot een impuls voor China’s hardwareindustrie, die nu in verhoogd tempo probeert betere GPU’s te maken, de snelle chips met de grote rekenkracht die nodig zijn voor AI-toepassingen. Vanwege de exportrestricties, die sinds een eerste serie in oktober 2022 meermaals werden aangescherpt, zet China flink in op het ontwikkelen van eigen hardware. Dat is te zien aan het grote aantal Chinese chipbedrijven op de conferentie. Volgens cijfers van onderzoeksbedrijf Preqin stak China vorig jaar 22,2 miljard dollar (20,5 miljard euro) aan investeringskapitaal in de halfgeleidersector, meer dan een verdubbeling van het jaar ervoor.

Tot nu toe leidden Amerikaanse bedrijven de wereldwijde innovatie in computerhardware, terwijl Chinese innovatie vaker in de software en toepassingen zat, legt een 36-jarige medewerker van een hardwarestart-up uit. Vanwege de politieke gevoeligheid van het onderwerp kan hij alleen anoniem meewerken aan een interview. „Nu kunnen we niet meer bouwen op Amerikaanse innovatie maar moeten we zelf experimenteren. Dat brengt grotere risico’s met zich mee.”

In de praktijk blijft de afhankelijkheid van Amerikaanse producten groot. „De vraag is nu: hoe snel kunnen Chinese bedrijven gaan?”, legt de medewerker uit. Geregeld moet hij na een nieuwe Amerikaanse maatregel de ingenieurs in zijn bedrijf vertellen dat ze dingen anders moeten gaan doen. „We zijn er voortdurend mee bezig. Het maakt veel uit welke generatie technologie je kunt gebruiken. Bedrijven willen zelfvertrouwen uitstralen in hun publieke statements maar dit is zeker niets positiefs.”

Tot nu toe konden veel Chinese bedrijven de impact van de restricties beperken door voor de nieuwe regels ingingen grote hoeveelheden chips in te slaan, te kopen via tussenhandelaren, of andere trainingsmethoden te gebruiken die minder rekenkracht vragen.

De openingsspeech van premier Li Qiang, waarin hij spreekt over het belang van ‘een meer open mindset’ is voor veel bezoekers niet toegankelijk

Maar dat de impact de komende jaren groter wordt lijkt onvermijdelijk, nu het Amerikaanse beleid jegens China alleen maar lijkt te verscherpen. Ook financiering zal ingewikkelder worden. Nu buitenlands geld geen optie meer is en de Chinese economie kwakkelt, moet het geld steeds meer van de overheid komen, maar ook daar zitten vaak veel voorwaarden aan verbonden. „Veel van de bedrijven hier zullen het niet redden.”

De geopolitieke dimensie en de groeiende rol van de staat in AI-ontwikkeling zorgt ook voor meer geslotenheid op de conferentie. Veel informatiesessies over de nieuwste technologie zijn niet toegankelijk voor publiek. Alleen uitgenodigde vertegenwoordigers uit de industrie en de overheid zijn welkom. Ook de openingsspeech van premier Li Qiang, waarin hij spreekt over het belang van „een meer open mindset” op het gebied van AI en oproept tot „vrij verkeer van data en handel in materiaal”, is voor veel bezoekers, inclusief NRC, niet toegankelijk.

Chinese censuur

De exportrestricties zijn niet de enige uitdaging waar Chinese AI-bedrijven mee te maken hebben. Bedrijven die hun AI-modellen openstellen voor publiek gebruik moeten ook zorgen dat die voldoen aan de strenge eisen rond politieke censuur in het land. Dat is een technische uitdaging, door de onvoorspelbaarheid van AI-modellen, die op basis van trainingsdata antwoorden genereren op een manier die de makers ervan niet kunnen controleren.

Ook Westerse bedrijven trainen hun chatbots om te voorkomen dat die racisme en seksisme uitslaan, en het modereren van gevaarlijke of incorrecte informatie vormt een probleem voor de sector. Maar voor Chinese bedrijven staat er nog meer op het spel, legt techondernemer Xu Ye uit tijdens een presentatie: „In China gaat het bij AI-veiligheid over twee dingen. Is het slecht voor de mensheid, en zegt je model dingen die je in China mag zeggen?”

Xu geeft voorbeelden van overijverige AI-censuur („Als je de naam van een bepaalde leider verbiedt, kan je model geen enkel overheidsrapport meer verwerken”) maar laat ook zien hoe je een AI-model in meerdere vragen kunt ‘misleiden’ tot uitspraken die in China niet zijn toegestaan, zoals dat Taiwan een zelfstandig land is. Hij eindigt met een verkooppraatje voor zijn bedrijf, dat zich specialiseert in ‘veiligheidsoplossingen’ die met filters voor verboden woorden een speciaal getraind correctiemodel op het AI-antwoord loslaten. Volgens experts is deze aanpak, waarbij het ene AI-model het andere censureert, een opvallende Chinese innovatie.

Voor informatie over waar hun modellen en trainingsdata aan moeten voldoen, kunnen bedrijven in China een beroep doen op gedetailleerde overheidsinstructies. Die zijn onderdeel van een breder pakket AI-regulering, waarmee China wereldwijd een van de eersten was. Matt Sheehan, die China’s AI-beleid onderzoekt aan de Amerikaanse denktank Carnegie Endowment for International Peace, ziet dat de overheid de bedrijven niet wil overvragen, zeker nu de Chinese economie kwakkelt en de concurrentie met de VS toeneemt. „Maar het blijft een flinke last voor bedrijven, die er tijd en geld in moeten steken om voortdurend te bewijzen dat hun modellen de regels niet overtreden.”

Techondernemer Xu laat zien hoe je een AI-model kunt ‘misleiden’ tot uitspraken die in China niet zijn toegestaan, zoals dat Taiwan een zelfstandig land is

Sheehan ziet in China ook groeiende aandacht voor de existentiële gevaren die AI-ontwikkeling mogelijk met zich mee brengt. In het afgelopen jaar waren Chinese experts,zoals de bekende computerwetenschapper Andrew Yao, prominente stemmen in internationaal debat over de veiligheid van AI. Ze roepen op tot wereldwijde regulering, verplichte registratie van geavanceerde AI-systemen en andere veiligheidsmaatregelen. Sheehan: „Het is een opvallende trend, maar tegelijk een lastig dilemma: hoe ga je om met de veiligheidsrisico’s terwijl je ook alles probeert te doen om met de VS te concurreren op AI?”

Nieuwe algoritmes

Kunstmatige intelligentie heeft veel toepassingen, ook op militair gebied, maar voor de ruim vierduizend Chinese AI-bedrijven gaat het in eerste instantie om de wereldmarkt. Zijn daar straks duidelijke winnaars te zien, en zijn die dan Chinees of Amerikaans?

Sheehan ziet een mogelijke parallel met het mobiele internet. Daar hadden Amerikaanse bedrijven een grote voorsprong, maar lukte het Chinese bedrijven vervolgens door goed te kijken naar wat elders in de wereld lokaal aanslaat een wereldwijde hit als TikTok te produceren. „Als AI op het huidige traject doorgaat, waarbij de grootste modellen het best presteren en elk jaar groeien, dan wordt het moeilijk voor China om te concurreren. Maar als de volgende golf aan AI-ontwikkeling van nieuwe algoritmes komt of van andere innovaties die minder om rekenkracht draaien, dan heeft China een kans om voorop te lopen.”

Ook de andere bezoekers van de conferentie die NRC spreekt houden zich bezig met deze vraag. Hoe wordt de markt straks verdeeld? Ook als de innovaties doorzetten, zal de trend van wereldwijde ontkoppeling het moeilijker maken om productie op te schalen en wordt productontwikkeling duurder.

Zonder de Amerikaanse exportrestricties had de competitie „gezonder” aangevoeld, zegt de 36-jarige anonieme start-upmedewerker, die zich soms afvraagt waarom de strijd tussen beide landen zo hard moet: „Subsidies laten je harder rennen, maar met exportrestricties laat je iemand struikelen.”

Chen, de programmeur van China’s stroomnet, is wat positiever na de conferentie. Hij heeft inspiratie opgedaan, bijvoorbeeld van ondernemers die de afgelopen jaren uit Amerika terug naar China zijn gekomen. „Gek misschien, maar het voelt nog best optimistisch. We hebben in China moeilijkere tijden meegemaakt.”

Delen





Mail de redactie