Opinie | De dunne richel van de vooruitgang

Deze zomer kwam de kaskraker Oppenheimer uit. Een moderne variant op het oude Frankensteinverhaal, waarin een wetenschapper een monster schept dat zich tegen hem keert. De film heeft overal in de wereld het debat over moraal en wetenschap nieuw leven ingeblazen.

De eerste test met Oppenheimers atoombom, in de woestijn van New Mexico, en het inferno van Hiroshima en Nagasaki, drie weken later, betekenden niet alleen een waterscheiding in de geschiedenis, maar ook een blijvend vertrekpunt voor discussies over ethiek en wetenschap.

In 1938 slaagden geleerden in Berlijn er als eersten in om atoomkernen te splijten. Wereldwijd zagen natuurkundigen daarmee de weg geopend naar de productie van kernwapens. Amerika vreesde dat Duitsland daarin als eerste zou slagen.

Maar dat was buiten Hitlers antisemitisme gerekend. Want hij haatte naast de Joden ook wat hij de ‘Joodse natuurkunde’ noemde: de ‘entartete’ relativiteitstheorie en kwantummechanica van Einstein. Precies die inzichten maakten voor Oppenheimer en zijn team, onder wie veel uit Europa gevluchte Joodse wetenschappers, de atoombom mogelijk.

Nucleaire ambities

Oppenheimer dacht dat de wereld zó zou schrikken van het kernwapen dat de eerste ontploffing tevens de laatste zou zijn. Maar nee. President Truman zette zijn nucleaire ambities door. De klap die de Tweede Wereldoorlog beëindigde, was tevens het beginsignaal van de Koude Oorlog.

Lees ook: ‘Oppenheimer’ bereikt een ongekende psychologische diepgang voor een Hollywood-film

Voordat ik minister werd, woonde ik in het huis waar Oppenheimer na de Tweede Wereldoorlog introk. Net als hij was ik directeur van het Institute for Advanced Study in Princeton. Vlak na de oorlog werkten daar op één gang drie van de grootste wetenschappers van de twintigste eeuw: Albert Einstein, John von Neumann en Robert Oppenheimer.

Drie genieën die elk op hun manier de wereldgeschiedenis hebben doen verschuiven, maar ieder een heel eigen standpunt innamen ten opzichte van kernwapens. Ik presenteer ze, enigszins gechargeerd, als zinnebeeld van de morele houdingen die je kunt innemen in wetenschap en technologie.

Albert Einstein was in de naoorlogse jaren vooral de grote man van de vredesbeweging. Hij stond principieel afwijzend tegenover de ontwikkeling van kernwapens.

De wiskundige alleskunner John von Neumann daarentegen was de ultieme cold warrior. Zijn redenering was: als iets wetenschappelijk mogelijk is, zijn wetenschappers moreel verplicht om die technologie maximaal te ontwikkelen. Als vader van de speltheorie kwam hij met zijn wiskundige brein tot de onontkoombare conclusie dat de Verenigde Staten een verrassingsaanval moesten plegen tegen de Sovjet-Unie. Hij zei: „Als jij voorstelt om morgen te bombarderen, zeg ik: waarom niet vandaag?”

En dan Oppenheimer. Hij geloofde in de wetenschap en haar kracht om ons verder te brengen, maar kreeg berouw en verzette zich tegen verdere toepassingen van zijn uitvindingen. Dat maakt Oppenheimer tevens de meest verscheurde van de drie mannen.

Knippen en plakken DNA

Bij elk ethisch vraagstuk over technologie heb je de Einsteins die zeggen dat je er überhaupt niet aan moet beginnen, omdat je de gevolgen niet overziet. Er zijn de Von Neumanns die vinden dat je als wetenschapper verplicht bent om alles te ontwikkelen wat kan. En er zijn de Oppenheimers, die de moeilijk begaanbare middenweg tussen de duivelse dilemma’s blijven zoeken.

Of het nu gaat om kunstmatige intelligentie (AI), het knippen en plakken met dna of het ontwikkelen van kwantumtechnologie, in publieke discussies zijn de extreme standpunten telkens het scherpst gearticuleerd. Waarschuwend en gesloten als Einstein aan de ene kant en open en naïef als Von Neumann aan de andere kant.

Het pad daartussen lijkt steeds smaller te worden. En toch denk ik dat die middenweg, met alle haarspeldbochten, de enige realistische optie is. We kunnen en willen technologie niet tegenhouden. We hebben haar nodig. Maar we kunnen haar ook niet ongebreideld haar gang laten gaan. We bevinden ons tussen de natuur die ons terugslaat met rampen, wat vraagt om snelle actie, en de virtuele wereld die opmarcheert met algoritmes en zelflerende en zelfbeslissende systemen, wat we niet passief kunnen laten gebeuren.

Ik wil daarom een pleidooi houden voor de moeilijk begaanbare dunne richel van de vooruitgang. Het is een steile bergkam met diepe afgronden aan beide zijden, voortdurend balancerend tussen naïviteit en paranoia.

Vonkenregen van polarisatie

Eerst de route. Met compromissen is het lastig scoren. Het genuanceerde verhaal sneeuwt eenvoudig onder. Veel gemakkelijker is het om in praatprogramma’s, opiniestukken en Kamerdebatten voor een van de tegenpolen te kiezen. Die polen versterken elkaar bovendien. Ze laden zich aan elkaar op in een vonkenregen van polarisatie.

Een minister van een coalitiekabinet binnen een democratisch bestel kan niet verblijven op een van die polen. Per definitie is de aangewezen route de middenweg. Dat klinkt als gemakkelijk, allemansvriendje willen zijn, pappen en nathouden. Maar het is de minst comfortabele positie, omdat je juist in het midden alle krachten aan je voelt trekken, links of rechts de ideologische diepte in.

In het politieke debat worden morele en ethische overwegingen vaak heel principieel geponeerd. Bij mensenrechten kun je en moet je zwart-wit zijn. Maar technologie en wetenschap zijn ethisch gezien ingewikkelder. Was de ontwikkeling van kernwapens goed of slecht? Het antwoord ligt eigenlijk nog steeds open. Aan de ene kant steekt het spookbeeld van een nucleair Armageddon regelmatig de kop op, zoals recent door Poetins onbezonnen retoriek opgeroepen. Aan de andere kant hebben we na Hiroshima en Nagasaki niet meer de vernietigingsoorlogen tussen supermachten gezien die in de eerste helft van de 20ste eeuw de levens van tientallen miljoenen onschuldigen hebben gekost.

Momenteel is AI een dankbaar object voor zowel utopieën, waarin alles kan en geweldig is, als dystopieën, waarin de machines de macht compleet overnemen. Domme robots versus superbreinen. We willen met AI niet zonder rem zo hard mogelijk de berg af. Maar je wilt en kunt de ontwikkeling ook niet stoppen.

De middenweg is volgens mij de enige weg

Vooruitgang is geen rechte lijn, maar een hortende, stotende en slingerende beweging. Vooruitgang is vaak een serie van correcties op correcties. Nu steeds heftiger zichtbaar wordt welke schade fossiele brandstoffen aanrichten, kan het antwoord niet zijn dat we dan maar moeten stoppen met technologie. Nee, we moeten meer, andere, geavanceerdere technologieën en energiebronnen ontwikkelen. Die we dan niet argeloos moeten omarmen of roekeloos verspreiden. Want als vooruitgang correctie is, kunnen we ook steeds beter de belangen van natuur en mens laten meewegen.

De gevaren worden intussen zowel groter als kleiner. Om de allereerste atoombom te maken was nog een gigantisch industrieel complex nodig, vol met ultracentrifuges en kerncentrales. Voor biologische wapens volstaat een laboratorium dat in een garage past. Een gevaarlijk algoritme maak je op een laptop en leeft onzichtbaar in de cloud.

Drones lokaliseren doelen

De volgende stap in miniaturisatie tekent zich in Oekraïne al af: AI-drones die vijandelijke doelen kunnen lokaliseren. Ook het strijdperk verlegt zich dus naar de kunstmatige wereld.

Het hedendaagse wetenschappelijke onderzoek stelt ons niet teleur. Het legt complexere verbanden, introduceert abstractere begrippen, vindt preciezere details, onthult werelden die we niet eerder zagen. In deze wolk van complexiteit verdwijnt de wetenschap gemakkelijk uit het zicht van beleidsmakers. Ze kunnen niet op de tast op de smalle richel lopen. Ze zoeken gezelschap van mensen die hen kunnen gidsen en met het licht van hun inzichten bijschijnen.

Het komt dus aan op goed reisgezelschap, mijn tweede punt. Overheid en wetenschap werken vaak nog langs elkaar heen. Oppenheimer bijvoorbeeld begreep alles van de complexe processen van kernreacties, maar bar weinig van politiek. Hij leek verbaasd dat de beslissing over de bom, over het hoe en waar, niet meer in zijn handen lag.

Naïviteit bij wetenschappers

Die naïviteit zie ik vaker bij wetenschappers. Zij beheersen het complexe proces aan hun eigen zijde volledig, maar hebben nooit beseft of ervaren dat ook wet- en regelgeving en het politieke proces complex zijn. Wetenschap en beleid raken het zicht op elkaar gemakkelijk kwijt.

De wetenschap is complex omdat we de details zo goed mogelijk willen begrijpen. Vaststellen of een wetenschappelijk resultaat waar is, betekent in mijn vakgebied, de deeltjesfysica, dat de kans dat een resultaat op toeval berust niet groter mag zijn dan 1 op 2 miljoen. Dat gaat over zes cijfers achter de komma.

Oppenheimer begreep alles van kernreacties, maar bar weinig van politiek

Niemand zal van de politiek vragen dat de kans dat het misgaat kleiner is dan 1 op 2 miljoen. Maar beleid kent wel vele stappen die je door moet om van het wetenschappelijk advies te komen tot een wet gepubliceerd in het Staatsblad. Ik noem een paar stappen: wat vindt het veld? Wat vindt het departement? Wat vinden de adviesorganen? De Ministerraad? De uitvoeringstoetsen? De Raad van State? De Tweede en Eerste Kamer? De media?

Deze complexiteit bestaat om goede redenen. Ze maakt de overheid onderworpen aan de wet, beschermt burgers tegen machtsmisbruik en verankert het democratische proces.

Beleidsmakers hebben reisgezelschap nodig om over de smalle richel van de vooruitgang te lopen. Wetenschappers die de contouren kunnen ontwaren van een pad vooruit in de mist van onwetendheid. En net zo goed hebben wetenschappers baat bij beleidsmakers die hen door het doolhof van de rule of law leiden.

Hoopgevend hierbij is dat aan de kant van de wetenschap er steeds meer samenwerking komt tussen de verschillende disciplines.

Ook de overheid moet minder verkaveld denken. Er is meer tweerichtingsverkeer nodig. En dan nog zijn we er niet. Want de spannendste ontwikkelingen spelen zich allang buiten de domeinen van overheid en wetenschap af. Het zijn de technologiebedrijven die de middelen, de dataservers en de rekenkracht hebben. Terwijl wij gerieflijk delibereren over moraliteit en wetenschap, zetten buiten de grote bedrijven alweer een stap verder.

Hoe zorgen we ervoor dat we ook hen betrekken bij onze trektocht over de richel? Dat kunnen we heel praktisch aanpakken. Dit kabinet denkt aan flexibele teams vanuit beleid, wetenschap, bedrijfsleven en maatschappelijke organisaties, die actueel advies kunnen geven rond urgente thema’s. Hier zou AI de topprioriteit moeten zijn.

Daarin verschilt onze tijd radicaal van de jaren ’40. Het kwam destijds in de experts, de presidenten en generaals niet op om naar de samenleving te luisteren. De wetenschap was toen elitair en op zichzelf gericht. Nu schuiven steeds meer mensen aan en dat is goed. Wel moeten ze de klokken gelijkzetten. Het komt aan op een perfecte timing, mijn derde punt.

Michail Kalasjnikov werd op zijn sterfbed geteisterd door de gedachte dat hij verantwoordelijk was voor elk leven dat zijn geweer had opgeëist. Alfred Nobel berouwde zijn uitvinding van dynamiet.

Dit jaar nog sloot Geoffrey Hinton aan in de rij van spijtoptanten. De oud-medewerker van Google en een van de grondleggers van AI waarschuwde: AI kan onze samenleving ontwrichten, en zelfs ons menszijn.

Lees ook: ‘Oppenheimer’ toont het begin van het nucleaire tijdperk. En de dilemma’s waar we nog steeds voor staan

Vaak voeren we ethische discussies pas achteraf, als de geest allang uit de fles is. Technologische pioniers komen tot inkeer. Dat zien we nu ook bij AI gebeuren. Idealiter loopt de discussie over de moraal synchroon met de ontwikkeling van technologie. En daarom moet de wetenschap tijdig zorgen dat de samenleving kan meepraten. De timing van wetenschappelijk advies is vaak ook ongelukkig en arbitrair. Zo organiseert de wetenschap haar eigen gemiste kansen.

Ook aan de kant van de politiek geldt het belang van het juiste moment. Om de AI-ontwikkelingen niet uit zicht te verliezen, moet ze mee in de demarrage. Een overheid die nu slap reageert, moet straks harder op de rem trappen. Op tijd handelen vraagt moed van politici, omdat dit electoraal gezien vaak niet het juiste moment is.

Oppassen voor alarmisme

In het verleden heeft de overheid op grote onderwerpen als klimaatverandering niet met de gewenste urgentie gehandeld. Anderzijds gaf de officiële wetenschap zichzelf in het klimaatvraagstuk nog te veel rekenschap van een kleine groep sceptici. De waarschuwing vanuit de wetenschap had feller moeten klinken.

Nu dat geluid wel luid en duidelijk klinkt, is het oppassen voor alarmisme. De betrouwbaarheid van de wetenschapper en van de wetenschap als geheel staat continu op het spel. Geen institutie scoort zo hoog op maatschappelijk vertrouwen. Dat is mooi. Maar voorzichtigheid is geboden. Immers, als het vertrouwen verdwijnt, verliest de wetenschap ook haar impact.

Voor Oppenheimer, de man die te veel geschiedenis op zijn schouders droeg, was de middenweg een lijdensweg. En toch is het volgens mij de enige weg. Nieuwe technologieën zowel begroeten als verstandig toepassen, voert je over een smalle richel naar een betere wereld.

Deze middenweg lijkt soms een gemakzuchtige keuze, maar brengt je juist midden in conflict en strijd. In mijn ogen is het zelfs de opdracht voor de bestuurder om jezelf maximaal aan alle maatschappelijke krachten bloot te stellen, wat niet hetzelfde is als je door die krachten te laten leiden. Democratie is de plek van onenigheid, schrijft Maxim Februari in Doe zelf normaal. „Praten, schrijven, nadenken, argumenteren, rechtvaardigen: dat is de praktijk van de menselijke moraal”.

In die zin is het hoopgevend dat Einstein, Von Neumann en Oppenheimer elkaar iedere middag bij de thee spraken. Ondanks hun meningsverschillen waren ze het tenminste eens over de wetten van de wetenschap.