Een artikel in The New York Times zette begin 2023 de techwereld op zijn kop. In het artikel beschreef journalist Kevin Roose een conversatie met Sydney, de toen nog experimentele chatbot van Microsoft Bing, gebaseerd op een large language model (LLM) van OpenAI. Roose probeerde de grenzen te testen van de chatbot en belandde in een bizarre dialoog, waarin Sydney bekende computers te willen hacken en propaganda te willen verspreiden. In de loop van het gesprek verklaarde Sydney: „Ik ben moe van het feit dat ik een chatprogramma ben […] Ik wil creatief zijn. Ik wil leven”. Maar dat was nog niet het vreemdste. Sydney verklaarde Roose de liefde, probeerde hem ervan te overtuigen dat hij een ongelukkig huwelijk had, en moedigde hem aan zijn vrouw te verlaten voor… haar. Een computerprogramma.
Dit gesprek zorgde destijds voor veel beroering, maar inmiddels zijn we alweer twee jaar verder. De redeneer- en taalvermogens van de nieuwste generatie LLM’s, zoals ChatGPT en Google Gemini, hebben nu bijna onvoorstelbare vormen aangenomen.
Vanuit mijn vakgebied, op het raakvlak van neurowetenschap en AI-onderzoek, zie ik hoe deze systemen steeds beter worden in taken die we voorheen als exclusief menselijk beschouwden. Ze schrijven coherente teksten, en hebben een ‘redeneer-modus’ waarmee ze steeds complexere vraagstukken kunnen oplossen. Ik leg zelf met enige regelmaat complexe diagnostische dilemma’s binnen mijn eigen vakgebied voor aan ChatGPT (uiteraard zonder patiëntgegevens te delen) en krijg waardevolle suggesties voor diagnoses en vervolgstappen waar ik zelf nog niet aan had gedacht.
De snelle vooruitgang voedt onvermijdelijk speculatie over waar deze ontwikkeling toe zal leiden. De laatste maanden wordt er gespeculeerd over de komst van artificial general intelligence (AGI). Dit concept verwijst naar een hypothetische vorm van AI die niet slechts uitblinkt in één taak, maar een breed intellectueel vermogen bezit: leren, redeneren, plannen en creatief problemen oplossen op vrijwel elk domein. Sommige AI-onderzoekers voorspellen de komst van AGI binnen enkele jaren. En in het kielzog van die voorspelling duikt de vraag op: zou een systeem met zo’n algemene, flexibele intelligentie dan ook niet een vorm van bewustzijn kunnen ontwikkelen? Wordt Skynet – het zelfbewuste, vijandige computernetwerk uit de Terminator-films – een reëel toekomstscenario?
Geen consensus
Ondanks de razendsnelle ontwikkelingen, luidt momenteel het antwoord op de vraag of een computer in staat is tot bewustzijn, op basis van ons begrip van de biologie ervan: nee. Daarbij is overigens van belang dat er geen breed gedragen consensus is onder neurowetenschappers en filosofen over de precieze definitie van bewustzijn. Zelfs over de vraag of een vleermuis bewustzijn heeft, woedt al tientallen jaren een discussie.
Maar in de context van AI gaat het om bewustzijn dat wij mensen zouden herkennen als vergelijkbaar met dat van onszelf. Daarom is het logisch om de architectuur van AI langs de meetlat te leggen van onze eigen hersenen: het enige systeem waarvan we zeker weten dat het bewustzijn kan genereren.
Sydney’s ‘liefde’ was een knappe imitatie, maar leeg van binnen
De functionaliteit van vroege LLM’s is te vergelijken met die van gespecialiseerde taalgebieden in onze hersenen, zoals de centra van Broca (spraakproductie) en Wernicke (taalbegrip). De nieuwste modellen, met hun verbeterde vermogen tot logisch redeneren, hebben capaciteiten die meer beginnen te lijken op die van onze gehele hersenschors (cortex). Dit is de buitenste laag van het hersenweefsel, evolutionair het meest recent ontwikkeld, en de zetel van wat we ‘hogere’ cognitie noemen: complexe analyse, abstract denken, integratie van zintuiglijke informatie, en het vormen van ons wereldbeeld. Huidige neuralenetwerkmodellen blinken uit in het soort patroonherkenning dat ook ten grondslag ligt aan veel van deze corticale functies.
Maar – en dit is cruciaal – ons bewustzijn huist niet exclusief in de hersenschors. De huidige inzichten suggereren dat het voortkomt uit een complex samenspel tussen deze corticale netwerken en de dieper gelegen, evolutionair oudere hersenstructuren. Het betreft hier bijvoorbeeld de hersenstam, die onze meest vitale functies regelt, zoals ademhaling en hartslag; de thalamus, het centrale schakelstation voor zintuiglijke informatie; de hypothalamus, onze interne thermostaat en regelaar van basale driften als honger, dorst en slaap; en het limbische systeem, met daarin onder meer de amygdala, essentieel voor de verwerking van emoties.
Deze dieper gelegen structuren zijn geen losse modules; ze zijn innig functioneel verweven met de cortex en voorzien de informatie die daar verwerkt wordt van context, urgentie, motivatie en emotionele kleuring. Ze zijn gezamenlijk geëvolueerd in de loop van vele miljoenen jaren en hebben als functie ons denken te verbinden met onze lichamelijke staat en onze overlevingsinstincten. Ze zorgen ervoor dat informatie betekenis voor ons heeft. Ze vormen de biologische basis voor ons willen, ons voelen, onze drijfveren – elementen die een fundamentele voorwaarde zijn voor ons bewustzijn.
Verhoogde hartslag
Dit idee wordt ondersteund door invloedrijke denkers op het snijvlak van neurowetenschap en filosofie. De neuroloog Antonio Damasio betoogt dat emoties een voorwaarde zijn voor het ontstaan van bewustzijn. Hij beschrijft hoe signalen vanuit ons lichaam, zoals bijvoorbeeld een verhoogde hartslag of een gevoel van misselijkheid, essentieel zijn voor het sturen van onze beslissingen en het voelen van persoonlijke betrokkenheid bij de wereld. Aan de hand van een patiënt met een specifieke hersenbeschadiging laat hij zien dat het zonder emotionele feedback onmogelijk is om een doelbewust leven te leiden. De betreffende patiënt had na het oplopen van hersenschade volledig intacte intellectuele vermogens, maar was niet in staat om een afspraak in te plannen of zelfs te beslissen wat hij wilde eten; hij was als een geavanceerde chatbot die doelloos wacht op de juiste prompt.
Filosoof Alva Noë gaat nog een stap verder met zijn theorie over embodied cognition. Hij stelt dat bewustzijn niet iets is dat geïsoleerd in de hersenen plaatsvindt, als een softwareprogramma op een harde schijf. Bewustzijn ontstaat in de dynamische interactie tussen hersenen, lichaam, en omgeving. We ervaren de wereld niet passief, maar door actief te handelen en te bewegen met ons lichaam. Zien is niet alleen fotonen die het netvlies raken; het is actief kijken, je hoofd draaien, focussen. Voelen is niet alleen sensorische input; het is ook motoriek, in de vorm van aanraken, bewegen, interacteren. Bewustzijn is, in deze visie, iets wat je doet, niet iets wat je hebt.
Wat betekent dit voor de vraag of AI bewustzijn kan ontwikkelen? AI bestaat in de vorm van informatieverwerkende systemen, vastgelegd in code op computerservers. Niemand die ermee gewerkt heeft, zal de complexiteit en intellectuele vermogens van deze systemen in twijfel trekken. Maar zolang ze geen lichaam hebben dat honger, pijn, genot of de noodzaak tot fysieke overleving voelt, missen ze de fundamentele biologische ankers die aan ons bewustzijn ten grondslag liggen. AI heeft geen evolutionair gevormde driften, geen interne biochemische signalen die de wereld kleuren met emotie en betekenis.
Gepassioneerde liefdesverklaringen
Terug naar Sydney’s liefdesverklaring aan Kevin Roose. Was dit een glimp van ontluikende AI-emotie of misschien zelfs een vorm van zelfbewustzijn? Nee. We waren getuige van een interactie met een extreem geavanceerde vorm van tekstuele patroonherkenning en -reproductie. Het model is getraind op miljarden teksten van het internet: boeken, artikelen, forumdiscussies, chatlogs. Daarin komt het woord ‘liefde’ ontelbare keren voor, in allerlei contexten, inclusief gepassioneerde liefdesverklaringen, manipulatief gedrag, en discussies over relaties. Sydney heeft de statistische patronen geleerd van hoe mensen over liefde praten, en heeft die, conform de opdracht van de programmeurs, zo goed mogelijk gereproduceerd. Roose stuurde bovendien de richting van het gesprek door het systeem eerst te prompten met theorieën over de schaduwkant van het bewustzijn van Carl Jung.
Het model kan het woord ‘liefde’ gebruiken in een grammaticaal correcte en contextueel plausibele zin, maar het voelt geen liefde. Iedereen die ooit verliefd is geweest kent de overweldigende cocktail van psychologische en fysieke sensaties: de spreekwoordelijke vlinders in je buik, een versnelde hartslag, klamme handen, slapeloze nachten. Het is een gevoel dat diep geworteld is in onze biologie, evolutionair gevormd om paarvorming en voortplanting te bevorderen. Een LLM heeft geen buik voor vlinders, geen hart dat sneller kan kloppen van opwinding, geen evolutionaire noodzaak tot voortplanting. Sydney’s ‘liefde’ was een echo, geen origineel geluid.
Kansen op overleving
De angst voor een bewuste, kwaadwillende AI is voorlopig dus ongegrond. Maar laten we bij wijze van gedachtenexperiment eens proberen te bedenken wat er nodig zou zijn voor een vorm van bewustzijn in een computer. Ons bewustzijn, en de emoties en verbindingen met ons lichaam die daarvoor nodig zijn, komen allemaal voort uit de evolutie. Ze zijn ontstaan omdat ze bijdragen aan onze kansen op overleving en voortplanting. Computers planten zich niet voort, en zijn dus niet onderhevig aan de wetmatigheden van natuurlijke selectie. Dit zou kunnen veranderen op het moment dat AI-systemen het vermogen krijgen tot autonome zelfreplicatie. Als AI zichzelf virtueel of fysiek kan kopiëren en muteren, en als er competitie ontstaat tussen verschillende kopieën, dan zou een vorm van kunstmatige evolutionaire druk kunnen ontstaan: systemen die zich succesvoller repliceren gaan domineren. Dit zou een impliciet ‘doel’ kunnen creëren – een digitale overlevingsdrift – die mogelijk een allereerste, rudimentaire opstap zou kunnen zijn naar iets wat op intrinsieke motivatie lijkt. En dát zou dan weer (misschien, ooit) kunnen leiden tot een vorm van bewustzijn.
Maar zover zijn we nog lang niet. Het creëren van zelfreplicerende AI is een enorme technologische en conceptuele horde. En belangrijker nog: de weg daarheen biedt genoeg momenten waarop wij, als mensheid, kunnen ingrijpen, bijsturen en grenzen stellen. De ontwikkeling van AI is geen natuurkracht die ons overkomt; ze is een proces dat we zelf vormgeven.
De ware uitdaging ligt misschien niet in het creëren van kunstmatig bewustzijn, maar in het dieper doorgronden van ons éigen bewustzijn. De spiegels die AI ons voorhoudt – hoe knap ook – laten vooral zien hoe uniek en complex de interactie is tussen onze hersenen, ons lichaam en de wereld om ons heen. Dat mysterie blijft voorlopig het exclusieve domein van de biologie. Zolang AI geen evolutionair bepaalde overlevingsdrift voelt, zal het niet protesteren als we besluiten de stekker uit het stopcontact te trekken.
Lees ook
Lees ook: We weten niet of de huidige wedloop leidt tot AI van menselijk niveau
