In het Britse Bletchley bogen wereldleiders en techondernemers zich over de vraag: hoe houd je AI onder controle?

Een serveerster van pub The Three Trees in Bletchley zet een dampende meat pie met aardappelpuree en bruine jus neer voor Max Tegmark. Het is de avond voor de AI Safety Summit in de Britse plaats. De natuurkundeprofessor van het Massachusetts Institute of Technology (MIT) is een van de sprekers.

Hij wijst naar zijn bord. „De chef die dit maakte moet zich aan allerlei regels houden. Inspecties, hygiëne, vergunningen. Kijk in de keuken en er hangen certificaten aan de muur”, zegt Tegmark, gekleed in een zwart T-shirt met het opschrift ‘What will AI do?’. „Voor AI bestaat er helemaal niets. Bedrijven reguleren zichzelf.”

En dat moet veranderen. Tientallen landen – onder meer China, de Verenigde Staten en de EU – spraken woensdag en donderdag tijdens de top over hoe artificiële intelligentie (AI) in de hand te houden. Ook prominente AI-wetenschappers en topbestuurders van techbedrijven, zoals Elon Musk (X) en Sam Altman (OpenAI), waren aanwezig. Het was de eerste keer dat landen en bedrijven elkaar op dit niveau ontmoetten om over de veiligheid van AI te spreken.

Sinds de opkomst van chatbot ChatGPT, nog geen jaar geleden, is de ontwikkeling van AI in een stroomversnelling geraakt. Techbedrijven en wetenschappers voorspellen dat AI snel tot grote doorbraken zal leiden in verduurzaming en de medische wereld, en werknemers enorm veel tijd gaat besparen. Tegelijkertijd zijn er grote zorgen. Over door AI gemaakt nepnieuws, grootschalige cyberaanvallen, copyrightschendingen en nieuwe vormen van internetoplichting.

In een gezamenlijke verklaring waarschuwden de aanwezige landen woensdag voor „in potentie ernstige, zelfs catastrofale schade” van ‘frontier AI’, ingrijpende AI-systemen die worden gevoed met grote datasets met materiaal van het internet. Dergelijke AI-systemen zijn in staat om zelfstandig data te interpreteren, beslissingen te nemen en van hun gedrag te leren.

De landen beloofden internationale samenwerking, dialoog en meer onderzoek naar de veiligheid van AI. Ook beloofden grote techbedrijven als OpenAI, Amazon, Google en Meta hun gevoelige AI-technologie te onderwerpen aan onafhankelijke testen, uitgevoerd door nieuw op te richten instituten in de Verenigde Staten en het Verenigd Koninkrijk.

Grote maatregelen werden er verder niet aangekondigd. Volgens AI-expert en Stanford-onderzoeker Marietje Schaake, aanwezig op de top als een van de sprekers, viel ook niet te verwachten dat politici „hier in twee dagen even een reeks wetten zouden afhameren”, zegt ze. „Maar ik hoop wel dat nu duidelijk is dat je er met alleen maar praten en onderzoek niet bent.”

Maatregelen moeten over zes maanden volgen na een vervolgtop in Zuid-Korea – en volgend jaar in Frankrijk. Ondertussen werken de Verenigde Staten, China en de EU allemaal aan eigen wetgeving. De EU wil gezichtsherkenning verbieden en verplichten dat door AI gemaakte beelden, tekst of stemmen altijd als zodanig herkenbaar zijn. De VS maakten maandag bekend ook een dergelijk ‘watermerk’ verplicht te gaan stellen om zo de toename van nepnieuws te bestrijden.

Met de top in Bletchley, zo’n negentig kilometer ten noorden van Londen, hoopte de Britse premier Rishi Sunak het mondiale gesprek over AI naar zich toe te trekken. Sunak, die het initiatief tot de top nam, kreeg vooraf de nodige kritiek vanwege de focus van de top op ‘existentieel risico’, het gevaar dat AI in de toekomst zo slim wordt dat mensen overbodig worden.

Volgens critici leidde dit te veel af van de gevaren die AI nú al in zich heeft. Zoals met kunstmatige intelligentie gemaakt nepnieuws of burgers en bedrijven die worden opgelicht door gekloonde stemmen. Ook een groot probleem: copyrightschendingen van muzikanten, kunstenaars en media, wier werk door AI-bedrijven wordt gebruikt zonder dat ze daarvoor betaald krijgen.

Enigma-machine

De AI Safety Summit werd gehouden in Bletchley Park, een landgoed uit de negentiende eeuw. Het park ligt aan de rand van het verder nogal slaperige Bletchley, waar op elk kruispunt een politiebusje stond vanwege de komst van de Amerikaanse vicepresident Kamala Harris.

De inwoners leken ondertussen meer bezig met Halloween dan met de komst van alle beroemdheden. Dat leverde een nogal luguber straatbeeld op. Mensen in skelet-outfits liepen dinsdagavond als wandelende doden vlak langs de plek waar ministers met tech-ceo’s een dag later over het uitsterven van de menselijke soort debatteerden.

Sunak koos heel bewust voor Bletchley Park, dat eigenlijk niet geschikt is voor een conferentie van een dergelijke omvang. De beroemde Britse wiskundige Alan Turing kraakte op deze plek tijdens de Tweede Wereldoorlog met zijn team de Duitse Enigma-machine, het apparaat waarmee de nazi’s hun communicatie versleutelden. Later bedacht hij de Turingtest, om vast te stellen of een machine in staat is tot menselijke intelligentie. ChatGPT haalt de Turingtest inmiddels met gemak.

Huizen in Bletchley Park. In een van deze huizen zijn scènes vanThe Imitation Gameopgenomen, de film over de Britse wiskundige Alan Turing die in Bletchley de Duitse Enigma-machine kraakte.

De tientallen aanwezige journalisten in Bletchley Park zaten in hetzelfde gebouw als waar Turings team werkte aan de Enigma-kraak. In de ruimte waar politici off the record journalisten bijpraatten, lag op een tafeltje een originele, nog werkende Enigma-machine. Een houten rechthoekige kist met daarin een typmachine, met radertjes en drie grote draaischijven.

Het was Turing die na de Tweede Wereldoorlog vaak zou waarschuwen voor waar computers in de toekomst toe in staat konden zijn. Hij verwachtte dat machines binnen afzienbare tijd „onze zwakke kanten overtreffen” en „met elkaar kunnen praten”, zei hij in 1951. En hij zei te verwachten „dat machines, op een bepaald moment, de controle overnemen”.

Dat klinkt als science fiction. Maar inmiddels nemen veel AI-wetenschappers het risico dat we de controle over onze computersystemen kunnen verliezen uitermate serieus. De topbestuurders van AI-bedrijven zoals OpenAI, Deepmind en Anthropic stelden in mei dit jaar eveneens dat „het risico van uitsterving door AI” een „wereldwijde prioriteit” zou moeten zijn.

Dat de zorgen nu zo groot zijn, komt door de snelheid waarmee AI zich ontwikkelt. Grote techbedrijven steken sinds de komst van ChatGPT miljarden in de technologie. Gevoed door steeds meer computerkracht vertonen AI-systemen sindsdien gedrag dat zelfs de slimste techneuten en wetenschappers niet meer helemaal begrijpen.

Wetenschappers vrezen voor het naderen van AGI (Artificial General Intelligence), het magische moment waarop de computer de mens in intelligentie evenaart. Wanneer dit moment bereikt wordt en wat er dan gebeurt, weet niemand. Tech-ondernemer Elon Musk zei hij na afloop van de top in een gesprek met Sunak, dat op X werd uitgezonden, „dat AI uiteindelijk alles zal kunnen”. „Er komt een moment dat geen enkele baan meer nodig is.”

Ook de Amerikaanse vicepresident Kamala Harris noemde in haar speech op de top dergelijke existentiële risico’s „zonder twijfel ernstig”. Ze waarschuwde voor „cyberaanvallen die verder gaan dan we ooit hebben gezien” en „met behulp van AI gefabriceerde biologische wapens, die de levens van miljoenen mensen in gevaar brengen”. Harris riep op tot „mondiale actie”.

Vicepresident van de VS Kamala Harris geeft een speech.

De techbedrijven proberen, door mee te praten en mee te denken, te voorkomen dat ze in regulering door overheden buitenspel worden gezet. Staatssecretaris Alexandra van Huffelen (Digitalisering, D66) merkt dat de bedrijven vooral „zelfregulering” nastreven, vertelde ze woensdagavond in de Nederlandse ambassadewoning in Londen. „Dat zien we niet zitten. Dat is een leerling die zijn eigen schoolwerk nakijkt.”

Van Huffelen was namens Nederland aanwezig op de top en zat in een panel met onder meer OpenAI-topman Sam Altman. „Het is zaak dat we niet in slaap worden gesust door bedrijven die zeggen: laat het ons zelf oplossen, en we hebben tijd nodig”, aldus Van Huffelen. „We willen geen ongeteste medicijnen op de markt, dus waarom vinden we dit dan wel oké?”

Diagnose

Een half uur nadat de meat pie van Max Tegmark in The Three Trees voor hem is neergezet, heeft hij zijn maaltijd nog altijd nauwelijks aangeraakt.

Hij is enthousiast dat wereldleiders nu eindelijk met elkaar en de topbedrijven over dit onderwerp spreken, zegt hij. En dat ook China aanwezig is bij de top en de zorgen rondom AI onderschrijft, hoewel het land met de Verenigde Staten in een handelsoorlog verwikkeld is. Onderdeel van het conflict is dat de VS proberen om China op achterstand te houden op het gebied van AI-technologie.

Tegmarks grote vrees is dat er te weinig tijd is. Dat we de controle over AI al verloren zijn voor er regels zijn. „Anderhalf jaar geleden dacht ik dat het nog twintig jaar ging duren tot we superintelligentie zouden bereiken”, zegt Tegmark, die wordt gezien als een van de meest pessimistische AI-wetenschappers. „Ik verwacht dat we nog drie jaar hebben.”

Het voelt ergens alsof de mensheid met kanker is gediagnosticeerd, zegt hij. „Misschien hebben we nog tien jaar, misschien nog drie jaar. Misschien genezen we wel. Of we dit overleven hangt af van hoe goed we voor onszelf zorgen.”

Na afloop van de top wil Tegmark niet meer bellen om te vertellen hoe hij de conferentie ervaren heeft. Na vijf dagen non-stop werken wil hij naar bed. Hij stuurt nog wel een tweet. „Rishi Sunak had meer succes [met de AI-top] dan ik had verwacht”, schrijft Tegmark. „Laten we nu eens kijken of dit verder gaat dan praten.”

De badge van Elon Musk op de AI-top in Bletchley.