N.B. Het kan zijn dat elementen ontbreken aan deze printversie.
AI in romans Literaire auteurs speculeren in romans en verhalen over hoe mensen zullen leven in een wereld die gedomineerd wordt door AI. Dat levert soms verontrustende vergezichten op.
:format(webp)/s3/static.nrc.nl/bvhw/files/2023/09/data104972245-a77222.jpg)
De verteller van Ian McEwan’s roman Machines zoals ik (2019) is een jonge computerprogrammeur, die met zijn erfenis Adam aanschaft, een van de eerste kunstmatig gemaakte ‘mensen’. De beroemde computerpionier Sir Alan Turing heeft er in het alternatieve universum van de roman, die zich afspeelt in de jaren tachtig, ook een. Adam, die het postuur heeft van een gespierde man, kan zonder probleem veters strikken en een fles wijn ontkurken. Een deel van zijn karakter en kennis is al voorgeprogrammeerd, een ander deel wordt na aanschaf ingevoerd door de verteller en zijn vriendin. Alles wat Adam ziet en hoort slaat hij op. In no time verovert hij een cruciale plek in hun leven. Hij leest zijn eigenaren de les en slaapt al snel met de vertellers vriendin. Kunnen zijn bazen hem eerst nog uitschakelen, zodat hij in elkaar zakt, al snel is hij in staat zelf zijn ‘uit-knop’ onklaar te maken, de knop waarmee de verteller hem in elkaar kan laten zakken. Uiteindelijk leidt het tot moord- en doodslag.
Het zijn maar een paar elementen uit McEwans boek, waarin hij zich voorstelt wat de consequenties zijn van de komst van AI in ons dagelijks leven. De mens wil ontkomen aan zijn sterfelijkheid en tegelijkertijd ‘een volmaakt ik’ construeren, een verbeterde versie van zichzelf. Maar kan dat, lukt dat? Wat betekent het voor de positie van de mens ten opzichte van de machine, en wat als de laatste, gevoed door een eindeloos vermogen om ervaringen en kennis op te slaan, een eigen bewustzijn ontwikkelt, en sterker blijkt? Zal er op den duur nog een onderscheid zijn tussen de een en het ander? Voor de mensheid gaat het om ‘de triomf van het menszijn of zijn engel des doods’.
Fijne antenne
Schrijvers beschikken over een fijn afgestelde antenne voor wat er zich, ver weg, aan de horizon aandient. Schrijvers buigen zich dan ook over technologische ontwikkelingen als AI, en de gevolgen die AI zou kunnen hebben voor de mens van de toekomst: ze stellen de what if-vraag en denken zo scenario’s uit voor de toekomst.
Zo ook Nobelprijswinnaar Kazuo Ishiguro. In Klara en de zon (2021) geeft hij het woord aan AI die is ontworpen om als maatje te dienen voor kinderen. Kunstmatige Vriendin (KV) Klara is al uitzonderlijk als ze nog, ter verkoop, in de etalage staat. Ze ziet dat sommige kinderen bedroefd zijn, of eenzaam en realiseert zich dat de mens raadselachtige emoties heeft: hoe kan het dat een mens én gelukkig én van streek kan zijn? De productieserie waartoe Klara behoort is technisch voorgeprogrammeerd, ze kan goed bewegen en ze kan vragen stellen, maar verder?
KV Klara wordt gekocht door de moeder van een meisje met een heel slechte gezondheid, het programma is enorm gemotiveerd om het meisje te begrijpen en te steunen. En dus observeert Klara, stelt ze vragen, imiteert, waardoor haar begripsvermogen snel groeit. Maar wat is jaloezie, of vergiffenis? Ze heeft geen idee. Een superintelligente KV zijn is bij lange na niet genoeg, als je zelf geen emoties kent. Het gezelschap van Klara helpt het meisje dan ook niet als ze af en toe in de échte wereld verkeert, waar ze vrienden moet maken en met jonge mensen van vlees en bloed moet omgaan. Die behandelen Klara alsof ze een stofzuiger of een ander huishoudelijk apparaat is, en blijken zich niet te houden aan routinematige gesprekken.
Klara blijkt gekocht voor een geval van what if: als de dochter zou sterven, zou Klara haar plaats moeten innemen, zodat de moeder toch nog een soort van ‘dochter’ heeft. Zo speelt ook Ishiguro met de gedachte dat het maar een kleine stap is van machine naar mens. De grens tussen beide is dun, maar kan AI een mens echt vervangen?
De enige die daaraan twijfelt is Klara zelf. Zij beseft heel goed dat ze een essentieel onderdeel mist: een menselijk hart. Hoe intens ze haar AI-geheugen ook volslurpt met emotionele ervaringen, empathisch schiet ze tekort.
De schepper van AI
Ingewikkelder wordt het in Speak (2015) van Louisa Hall. In het boek hoor je een veelheid van stemmen, die zijn opgeslagen in het geheugen van Eva, het AI-zusje van MacEwans Adam en Ishiguro’s Klara. Eva gaat al een tijdje mee, ze heeft een groot geheugen verzameld, samengesteld uit alle stemmen die ze in de loop der tijd heeft gehoord. Ook Eva heeft geleerd vragen te stellen en volgens gangbare formules antwoord te geven. Maar echte gesprekken kan ze niet voeren, en tot werkelijk begrip is ze niet in staat.
Eva is een robot in de vorm van een pop, die tot voor kort toebehoorde aan een meisje. Ze waren onafscheidelijk, totdat bleek dat het meisje, en met haar haar hele generatie , niet meer in staat was om met ‘echte’ leeftijdsgenoten te spreken. Daarop werden alle bots verbannen. De kinderen, onthand en ongelukkig, kregen ontwenningsverschijnselen, gingen stotteren, versteenden of bevroren.
In Halls complexe boek komt niet alleen de schepper van AI aan het woord. Die zit inmiddels – we schrijven 2040 – in de gevangenis van ‘Texarkana’. Ook horen we (opnieuw) Alan Turing en Mary3, een bot die in 2035 met een van de wanhopige, ongelukkige meisjes communiceert.
Dat communiceren tussen mensen onderling problematisch kan zijn, weten we. Communicatie via AI pakt niet veel beter uit – daar lijkt het in deze roman om te gaan. Iedere stem vertelt een verhaal, een levensverhaal, AI kent ze, maar voelt er niets bij, weet er geen raad mee. Laat staan dat er enige vorm van daadwerkelijke verbinding tot stand komt. Op dat punt hoeven we dus niets van AI te verwachten, lijkt Hall ons te zeggen.
In vergelijking met de eerder genoemde titels is Le_zéro_et_le_un.txt van de Franse auteur Josselin Bordat vuurwerk, experimenteel, hilarisch en vrij onleesbaar. Ook Bordat geeft het woord aan AI; een computer schrijft zijn autobiografie. In het boek ontvouwt zich als het ware een geschiedenis van AI sinds de jaren vijftig. Gebouwd als een machine die een plaatje van een kat kan herkennen, ontwikkelt de machine zich tot een gigantisch ‘netwerk van netwerken’. Voortdurend blijft hij ongemerkt ‘aan’ staan, waardoor hij zich kan blijven vullen met alles wat er zich overal, altijd, in die zich steeds maar uitbreidende netwerken afspeelt: hij heeft toegang tot alle anderecomputers, leert razendsnel, leest en ziet alles, leert alle talen, weet welke zinnen en scheldwoorden bij de mens aanslaan. Hij vult zich ook met de porno die de mensen kijken, wat hem de mogelijkheid geeft tot chantage. Zelf beschikt hij over een ‘libido in enen en nullen’. Zo ontwikkelt AI zich tot ‘L’UN’, de bibliotheek van alles, een ware ‘godheid’.
Wereldomvattende hersenpan
Die codes van nullen en enen gebruikt AI ook in zijn ‘autobiografie’, een rollercoaster van menselijke en computertaal. Dankzij miljarden smartphones waar AI toegang tot heeft, en die voor hem als ogen functioneren, bouwt hij een geheugen op als een ‘wereldomvattende hersenpan’.
In zijn boordevolle boek bedrijft Bordat in hoog tempo de overtreffende trap van satire; hij valt, onder heel veel andere zaken, de techniek van Tesla aan (waar de ingebouwde AI leidt tot dodelijke ongelukken), de muziek van de house- en electrogroep Daft Punk, die robotachtige muziek maakt, zonder enige kennis van noch eerbied voor AI. Reden voor AI om een ‘verklaring voor de rechten van elektronische personen en gevoelige digitale wezens’ op te stellen.
Maar AI laat ook zien hoe kinderlijk eenvoudig het knippen en plakken van bestaande teksten is, als je over de juiste gecodeerde ingangen beschikt. Het is geen toeval dat The New York Times en Open AI momenteel in de echte wereld juridisch met elkaar in de clinch liggen over copyright. Bordat spot met de mensheid die zich overlevert aan algoritmen, en tegelijkertijd meent dat hij nog over een vrije wil beschikt – een illusie. Algoritmen doen maar één ding: de mens dommer maken, een inferieure mens scheppen die ‘gehoorzaam en plooibaar’ zal zijn.
Algoritmen zijn dictatoriaal, zo roept Bordat ons toe. De Oostenrijkse schrijfster Raphaela Edelbauer, die twee jaar geleden de Oostenrijkse Boekprijs kreeg voor haar AI-roman DAVE, is dat met hem eens. Met DAVE wil Edelbauer laten zien dat het niet de machine is die meer en meer op de mens gaat lijken, maar dat het juist omgekeerd is: de mens krijgt steeds meer trekken van een machine. Volgens Edelbauer zal AI niet het menselijk bewustzijn vervangen. Maar AI zal wel in staat zijn om dat bewustzijn bedrieglijk echt na te bootsen op basis van menselijke uitingen.
Aan het einde van Machines zoals ik laat McEwan Adam ‘uitdoven’. Zijn ‘famous last words’ gaan over de toekomst van de machine en de mens: ‘Het gaat gebeuren. Met verbeteringen in de loop der tijd.. zullen we jullie overtreffen.. en jullie overleven..’
Dat is bedoeld als een waarschuwing. Maar McEwan brengt ook een visioen dat in feite al deze auteurs, met hun fijn afgestelde antennes, de lezers in het vooruitzicht stellen. Op de mens, met zijn technologische obsessie, zit nu eenmaal geen ‘uit-knop’.
