N.B. Het kan zijn dat elementen ontbreken aan deze printversie.
Robbert Dijkgraaf en Alexandra van Huffelen | Demissionair bewindslieden In het Catshuis werd het kabinet woensdag bijgepraat over de kansen en de risico’s van AI. Voor het eerst zette het kabinet het onderwerp AI op deze manier op de politieke agenda. „We rijden heel hard, maar wel door de mist. Dat maakt het moeilijk om vooruit te kijken”, zegt demissionair minister Robbert Dijkgraaf.
:format(webp)/s3/static.nrc.nl/images/gn4/stripped/data104941944-92d91a.jpg)
Demissionair minister Robbert Dijkgraaf (Onderwijs, Cultuur en Wetenschap, D66) en staatssecretaris Alexandra van Huffelen (Koninkrijksrelaties en Digitalisering, D66) nemen plaats naast elkaar op een krap, grijs tweezitsbankje. Ze zitten in de ‘executive lounge’, op de negende verdieping van het Marriott Hotel in Den Haag.
Het hotel ligt op nog geen vijf minuten lopen van het Catshuis, waar het kabinet woensdagochtend in een ‘Catshuissessie’ werd bijgepraat over artificiële intelligentie (AI). De bewindvoerders spreken na afloop een uur met NRC over de technologie, die sinds de lancering van ChatGPT in november vorig jaar aan een razendsnelle opmars bezig is.
De aanwezige woordvoerder merkt tijdens het gesprek op dat het wordt gewaardeerd als expliciet wordt vermeld dat ook voor het schrijven van dit artikel gebruik is gemaakt van AI. „Om aan jullie lezers duidelijk te maken hoe alomvattend deze technologie is.”
Dat klopt. Het met een iPhone opgenomen interview is getranscribeerd door Whisper [software die binnen een minuut een audiogesprek in geschreven tekst kan omzetten]. En op de site van NRC wordt het artikel voorgelezen door een stem van een NRC-journalist die met behulp van kunstmatige intelligentie is getraind. Daarbij neemt ook hier – zoals bij de meeste beroepen gebeurt of zal gaan gebeuren – kunstmatige intelligentie taken van mensen over.
In het Catshuis werd het kabinet, aan een grote ovale tafel met demissionair premier Mark Rutte in het midden, bijgepraat door onder meer AI-hoogleraar Max Welling van de Universiteit van Amsterdam en cyberexpert Marietje Schaake van de Stanford Universiteit. Gespreksonderwerp: de kansen en de risico’s van AI. Het was voor het eerst dat het kabinet dit onderwerp op deze manier op de politieke agenda zette.
Denktank en adviesorgaan WRR noemde AI eerder een ‘systeemtechnologie’: een technologie met een grote, onvoorziene impact op de samenleving. Het gaat dan over AI-systemen die worden ingezet voor gezichtsherkenning en fraudedetectie of voor medische of militaire toepassingen. En algoritmes die worden gebruikt om wat burgers kopen, lezen en stemmen te beïnvloeden. Daarmee is de technologische impact van AI volgens de WRR vergelijkbaar met die van eerdere revoluties zoals elektriciteit of de verbrandingsmotor.
Volgens Dijkgraaf, van oorsprong natuur– en wiskundige, gaat de AI-revolutie zelfs nog een stap verder. AI „probeert feitelijk ons denken na te doen”, zegt hij. Dat maakt AI iets „wat veel meer elementen van het leven raakt en daarmee moeilijk te vergelijken is met andere technologische doorbraken”.
Wat heeft de Catshuissessie opgeleverd?
Van Huffelen: „Er zijn een heleboel sectoren waar Nederland sterk in is waarin AI een grote rol gaat spelen. Denk aan de landbouw, de gezondheidszorg, vrede en veiligheid, de medische wereld. De vraag is: hoe zorg je ervoor dat die technologie ook de waarden in zich heeft die wij voorstaan. Het gevoel tijdens de sessie was: we moeten echt aan de bak, met z’n allen.”
Zijn er concrete besluiten genomen?
Dijkgraaf: „We rijden heel hard, maar wel door de mist. Dat maakt het moeilijk om vooruit te kijken. De term ‘rapid response team’ viel. Een groep met experts die voor de overheid bijhoudt wat we hier nu zien gebeuren en snel kan reageren. Daar gaan we werk van maken. De lancering van ChatGPT heeft nog minder dan een jaar geleden plaatsgevonden. Het gaat nu echt van maand tot maand. En dat is over het algemeen niet het tempo waarin de overheid werkt.”
Waarom heeft het zo lang geduurd voordat het kabinet over dit onderwerp bij elkaar kwam?
Van Huffelen: „Nou ja, we praten natuurlijk al langer over dit thema. Maar inderdaad, het moment vinden om iedereen bij elkaar te vegen…”
Dijkgraaf: „De ontwikkelingen in AI gaan sneller dan de agenda’s van ministers en staatssecretarissen toestaan.”
Hoe blijft u zelf bij? Gebruikt u ChatGPT? Experimenteert u wel eens met beeldgenerators Dall-E of Midjourney?
„Van Huffelen: „Ik heb er zeker mee geëxperimenteerd, ja. Ik lees veel. Luister podcasts, laat me inspireren door mensen die veel met dit onderwerp bezig zijn. Maar uiteindelijk kunnen wij ook maar zo veel tot ons nemen.”
Dijkgraaf: „Een van mijn guilty pleasures is nog steeds het luisteren naar online wetenschappelijke lezingen. Dan zie je, en dat vind ik enorm interessant, dat alle verwachtingen die wij bij Princeton [Dijkgraaf was van 2012 tot 2022 directeur van het Institute for Advanced Study in Princeton] twee jaar geleden hadden inmiddels zijn overtroffen. Juist die sprong die er nu gemaakt wordt, blaast alle onderzoekers van hun stoel. We noemen dat in de wetenschap een ‘emergent verschijnsel’. Je probeert iets te doen. Je geeft het meer en meer rekenkracht. Er gebeurt niets. Er gebeurt niets. Er gebeurt niets. En op een gegeven moment gebeurt alles.”
Wordt er in jullie departementen al geëxperimenteerd met AI? Zijn er werkgroepen of ambtelijke chatassistenten?
Van Huffelen: „Dat is nog een vraag die we hebben. Wat willen we hier eigenlijk zelf mee? Het is lekker om te experimenteren en te kijken wat er gebeurt, voor mijn part voor het beantwoorden van Kamervragen. Maar de vraag is of we dat moeten willen.”
U zei in een speech deze week dat Big Tech moet worden ‘getemd’ als het gaat om AI. Hoe ziet u dat voor zich?
Van Huffelen: „Als deze bedrijven hun producten aan ons willen aanbieden, dan moeten ze aan onze regels voldoen. Europa is nu hard bezig met AI-regulering [de AI Act, een Europese wet]. Het is altijd zo dat technologische ontwikkelingen vooruitlopen op regulering. Tegelijkertijd willen we niet dat data van iedereen maar overal verkocht kan worden zonder dat je daar invloed op hebt. We willen regulering op een manier die innovatie stimuleert en er tegelijkertijd voor zorgt dat onze publieke waarden hier wel beschermd blijven.”
Zijn jullie zelf wel eens het slachtoffer geworden van door AI gegenereerd nepnieuws? Een deepfake of een gekloonde stem?
Van Huffelen: „Niet dat ik weet, maar ik heb wel veel ellende op sociale media langs zien komen.”
Dijkgraaf: „Ik weet niet wat ik niet weet. Dus ik kan ook niet met absolute zekerheid zeggen dat dit nooit is gebeurd of zal gebeuren.”
Met verkiezingen in aantocht moet dat een grote zorg zijn
Beiden, tegelijk: „Zeker.”
Hoe gaan jullie daarmee om?
Van Huffelen: „Het is altijd een lastige balans tussen vrijheid van meningsuiting en dat wat echt niet mag. Wij willen niet het ministerie van de Waarheid gaan spelen of bepalen wat er op sociale media mag gebeuren.”
Dijkgraaf: „Er zijn algoritmes die desinformatie niet alleen maken, maar je ook helpen dat te verspreiden. Chatbots die je helpen met de tussenstappen. Dat is zorgwekkend.”
Van Huffelen: „Dit is iets wat we moeilijk kunnen bestrijden. Wat we wel kunnen doen is ervoor zorgen dat er voldoende bronnen zijn waar mensen terecht kunnen. Waar mensen informatie kunnen vinden die getoetst is en waar onderwerpen van meerdere kanten worden belicht. Media spelen daarin een enorm belangrijke rol.”
Alle bedreigingen die er al zijn, zullen door AI nog sterker worden
Robbert Dijkgraaf demissionair minister Onderwijs, Cultuur en Wetenschap
Dijkgraaf: „Misinformatie is in zekere zin van alle tijden. Dat zal alleen nog maar erger worden. Dat is ook wel een van de belangrijkste conclusies van wat deze technologie gaat doen. Alle bedreigingen die er al zijn, worden sterker. Dan gaat het ook over sociale ongelijkheid. Het idee dat elke nieuwe technologie een maatschappelijke gelijkmaker is, dat klopt niet. Al het onderzoek laat zien dat dit niet het geval is, mits je hier als overheid actief op ingrijpt. Dus als je die krachten de vrije loop laat, dan pakken de gevolgen van deze technologische vooruitgang economisch en financieel heel ongelijk uit.”
Ik wil u enkele dilemma’s voorleggen. Gezichtsherkenning in de publieke ruimte in Nederland. Wel of niet?
Van Huffelen: „In Europa hebben we aangegeven dat we dat niet willen. Behalve onder hele strikte voorwaarden, bijvoorbeeld bij opsporing en onderzoek.”
Ambtenaren die ChatGPT gebruiken om Kamervragen te beantwoorden.
Van Huffelen: „Ik weet zeker dat er ambtenaren zijn die hier al mee experimenteren. We moeten hier goed over nadenken.”
Dijkgraaf: „Vandaag zei iemand tijdens de Catshuissessie: ChatGPT is gewoon een hele slimme stagiair. Die laat je ook niet blind een Kamerbrief of een contract ondertekenen.”
Militaire AI-systemen die autonoom doelen identificeren en die vervolgens uitschakelen.
Van Huffelen: „Nee, dat zouden we zeker niet willen. Dat zou ik totaal onverantwoord vinden.”
Een pauze van zes maanden waarbij alle technologische ontwikkeling binnen AI wordt stilgelegd. Om de technologie eerst te leren begrijpen.
Zowel Dijkgraaf als Van Huffelen schieten in de lach bij het horen van de vraag.
Van Huffelen: „Dat is gewoon niet realistisch.”
Dijkgraaf: „Daarvoor gaat het nu veel te snel ook.”
Maar toch. Er zijn topwetenschappers die zeggen: dit is misschien wel de laatste uitvinding die de mens ooit zal doen. Techondernemers als Sam Altman (OpenAI) en Elon Musk vrezen een supercomputer die ons kan onderwerpen.
Dijkgraaf: „We moeten wel realistisch zijn. Technologie is niet van zichzelf kwaadwillend. Wij hebben de verantwoordelijkheid om de omgeving te bieden waarin deze algoritmes gaan besluiten wat hun doel in het leven is. Want het is misschien ongevaarlijk als het doel is om een schaakpartij te winnen. Maar heel gevaarlijk als het doel is om een oorlog te winnen.
„ Ik zie het meer als een extra radarscherm, waarmee wij dingen gaan zien die we nu niet zien. Laten we oppassen dat we ons niet beperken tot maar twee scenario’s. Of het zijn maar domme robots, of dit betekent het einde van de wereld. Er zit nog heel veel tussen.”
Denkt u dat AI ons misschien wel kan helpen om de grote problemen van onze tijd op te lossen? Om klimaatopwarming te bestrijden of een medicijn tegen alzheimer te vinden?
Dijkgraaf: „De grootste en meest positieve toepassingen van AI liggen in de wetenschap. Misschien kan AI ons wel helpen om te identificeren waar de kansen liggen. Waar onze wetenschappers zich op zouden moeten richten. Want maken wij ons wel druk over de juiste problemen?
„Het mooie is dat de mens op veel momenten in de geschiedenis een sprong heeft gemaakt die uit het niets kwam. Iets wat iedereen belachelijk vond en de mens toch ging doen. Als wiskundige leerde je lang dat je nooit de wortel van -1 moet nemen, want dat is geen getal. Een imaginair getal noemden ze dat. Nou, wat een gekkigheid. Inmiddels blijkt dat alle natuurkundige wetten gebruikmaken van juist deze imaginaire getallen.”
„Zo zie je maar. De mens heeft soms ook de eigenschap om iets heel geks te doen. Echt uit het niets iets te kunnen maken. Ik hoop dat we dat wat meer gaan koesteren met elkaar.”
