Kiesgerechtigde AI’s die de toekomst van Nederland bepalen?

Politiek De democratie is niet op superslimme AI toegerust, vreest Mark Thiessen. Tref daarom nu al beschermingsmaatregelen.


Beeld Getty Images/iStockphoto, bewerking NRC

In zijn recente essay in NRC over de effecten van kunstmatige intelligentie (AI) op democratie en recht (Het algoritme, dat ben je zelf, 18/2) beschrijft Maxim Februari hoe het tapijt onder die processen vandaan wordt getrokken. Het stuk is een verademing in het publieke debat dat speelt sinds de lancering van AI-taalmodel ChatGPT-3.

Dat debat wordt gekenmerkt door lichtzinnigheid. ChatGPT toont ons spiegeltjes en kraaltjes en het zijn de spiegeltjes en kraaltjes waar we op reageren. We nemen ze bewonderend aan en zijn ons niet bewust van de grote prijs die wij hiervoor op termijn mogelijk moeten betalen. De vragen die men stelt gaan over het nu en het dichtbij: wiens baan wordt vervangen? Wat als leerlingen hun huiswerk niet zelf doen? De echte vraag is veel groter: zijn onze systemen – zoals de democratie – er wel tegen bestand?

Het is op systeemniveau waar AI de meest ingrijpende uitwerking gaat hebben. In het boek Thinking in Systems van Donella Meadows wordt beschreven hoe systemen werken. Volgens Meadows is een systeem een groep van dingen – bijvoorbeeld mensen, cellen, technologieën – die zo met elkaar verbonden zijn dat ze na verloop van tijd een eigen gedragspatroon ontwikkelen. Voeg hier een externe kracht als superintelligente AI aan toe en dat gedragspatroon verandert: systeem-unieke problemen komen naar de oppervlakte of worden vergroot.

Het systeem wankelt

In het democratisch systeem laat het zich raden wat die problemen zijn. Bijvoorbeeld politici die niet doen wat ze beloofd hebben en die niet alwetend zijn. En wantrouwende kiezers die weinig echte betrokkenheid voelen bij verkiezingen. Deze problemen zijn inherent aan democratie. Zij zorgen soms voor ongemakkelijke uitkomsten, maar het systeem blijft wel overeind.

Dat kan veranderen wanneer een nieuwe technologie wordt toegevoegd, zoals recent met de introductie van sociale media. Een op het eerste gezicht onschuldige technologie, die mensen in staat stelt om zich met elkaar te verbinden. Toen Twitter en Facebook in de jaren nul opkwamen, juichten we over de positieve effecten op onze democratie: eindelijk konden kiezers direct contact hebben met hun vertegenwoordigers. De negatieve effecten – scoringsdrang, polarisatie, desinformatie – werden niet of veel te laat gezien. Het systeem wankelt.

De echte vraag kwam pas achteraf: waren mensen wel toegerust om met deze op het oog simpele ‘toevoeging’ om te gaan? En was de democratie er wel voldoende op voorbereid? Op beide vragen is het antwoord nee. Als de mens en de democratie al zo slecht bestand bleken tegen de introductie van sociale media, dan kunnen we bij AI zeker onze borst nat maken. Dus moeten we ons nu al de vraag stellen: zijn de mens en de democratie hier wel op toegerust?

Te laat met vragen

Het lijkt op wat de Amerikaanse bioloog E.O. Wilson het grote probleem van de moderne mens noemde: we hebben de breinen van holbewoners, middeleeuwse instituties en de technologie van goden. Een levensgevaarlijke combinatie. Hoe stemmen we de komst van AI op onze breinen en systemen af?

Dat gaat niet vanzelf. De geschiedenis leert dat we er pas te laat achter zullen komen wat het echte effect was. Meadows signaleert dit in haar boek. Systemen geven feedback af over wat er zich in het systeem afspeelt, maar bij complexe systemen zit een vertraging in de feedback. Je hebt pas door dat er een probleem is, wanneer dat probleem nog maar moeilijk is op te lossen.

De verandering van onze democratie door AI zal onbewust en stap voor stap gaan. Parlementair werk laten doen door ChatGPT is een eerste stap, die al is gezet. Een volgende stap is een (nieuwe) politieke partij die belooft al haar beslissingen door AI te laten nemen. En als we daar zijn, waarom ons dan überhaupt nog door mensen laten vertegenwoordigen?


Lees ook dit opiniestuk: Artificial intelligence is niet intelligent

Je eigen politieke AI

We zijn dichter dan ooit bij een werkbare variant van de directe democratie zoals die in het oude Athene mogelijk was. We zoeken nieuwe manieren om democratie directer te maken, met referenda en burgerberaden, maar een veel gemakkelijkere manier dringt zich op. Met superintelligente technologie is het mogelijk om iedereen een persoonlijke AI te geven, waarin politieke voorkeuren kunnen worden opgeslagen. Jouw eigen politieke AI kan dan samen met de AI’s van de andere kiesgerechtigden de koers van Nederland bepalen. Een algoritme bepaalt op ieder beleidsonderwerp de consensus van de kiezers: een perfecte afspiegeling van de wens van de Nederlander. Een digitale geautomatiseerde agora. We hoeven ons vrijwel nooit meer zelf met politiek bezig te houden.

Dit zijn geen zekerheden, maar wel reële mogelijkheden. In deze campagneweken zitten we wederom te kijken naar inwisselbare politici met nietszeggende campagnes. Dan ligt de vraag ‘Waarom kunnen we dit niet door AI laten doen?’ snel voor de hand. Sommige veranderingen zijn niet te voorkomen – zoals moties laten schrijven door AI – maar andere zijn dat wel.

We moeten samen vaststellen wat wij belangrijk vinden aan onze democratie en dat beschermen. Bijvoorbeeld dat het gaat om de vrijheid van mensen om zelf hun leiders en beleid te kiezen en dat we dit niet door een computer willen laten doen. En dat mensen zich door mensen laten vertegenwoordigen. Niet door machines. We kunnen nu reeds nadenken over waar wij willen dat het einde ligt, voordat het zich aan ons opdringt zonder dat we er nog invloed op kunnen uitoefenen. Want dat moment gaat komen en sneller dan we zullen verwachten. En dan zijn we – wederom – te laat.