Opinie | AI: smakeloze stamppot of existentieel gevaar?

Slimme robotarm denkt met chirurg mee

Microchirurgen hechten geregeld bloedvaatjes dunner dan een millimeter handmatig aan elkaar. Bijvoorbeeld bij het herstellen van een verminkt gezicht of bij het reconstrueren van een geamputeerde borst. AI gaat in de operatiekamer van grote waarde zijn.

Al enkele jaren opereert plastisch chirurg Dalibor Vasilic van het Erasmus MC met hulp van een robotarm, waaraan een digitale microscoop is bevestigd. Tijdens de operatie kijkt Vasilic niet meer direct naar de plek van de operatie en zijn handen, maar door een 3D-bril naar een scherm recht voor zich. Het schermbeeld komt van een camera aan een beweeglijke robotarm die de operatie vanuit veel meer hoeken kan laten zien dan de chirurg zelf.

Deze digitalisering geeft de chirurg een beter beeld, maar maakt ook de integratie van kunstmatige intelligentie (AI) mogelijk. Vasilic wil de robotarm dankzij AI meedenkend maken, zodat deze in de toekomst precies begrijpt hoe en in welke stappen een operatie wordt uitgevoerd. De robot kan dan bijvoorbeeld vragen stellen als: ‘Zal ik het beeld verplaatsen, zodat je de volgende stap beter kunt uitvoeren?’ Daarbij laat hij meteen het beoogde nieuwe beeld zien. De slimme robotarm begrijpt ook wanneer een operatiestap niet helemaal volgens plan is verlopen en hij kan dan zelf een alternatief voorstellen op basis van de data van eerdere operaties.

De patiënt profiteert: de slimme robotarm vergroot de kans dat de operatie slaagt en versnelt de operatie ook nog eens.

Vasilic werkt onder andere samen met de onderzoeksgroep van Catholijn Jonker van de TU Delft. Hybride intelligentie is het toverwoord in die samenwerking: het combineren van menselijke en kunstmatige intelligentie. De slimme robotarm en de mensen in het operatieteam moeten elkaar perfect aanvullen. Robot en mens moeten allebei van elkaar willen leren. Als de robot iets niet weet, moet hij vragen kunnen stellen. Hij moet weten dat hij soms toestemming moet vragen en dat als hij iets niet zelf kan uitvoeren, hij de handeling uit handen moet geven aan een mens.

De slimme robotarm kan in de toekomst zelfs een onderdeel worden van een digitaal platform, waarop de chirurg ook medische beelden integreert, en waarop de robotarm leert van eerdere operaties, helpt om nieuwe chirurgen en studenten te trainen en zelfs suggesties geeft voor het maken van een nieuw instrument dat een specifieke operatieve handeling mogelijk maakt. AI geeft de chirurg in de toekomst een turboboost!

Bennie Mols wetenschapsjournalist

---

Van geraaskal tot plagiaat

Mijn vak is theoretische astrofysica. Gegeven een kosmisch verschijnsel, wil ik antwoord op de vraag: wat zit daar achter? Of scherper: hoe werkt het? Zo’n zoektocht draait om het verzinnen en formuleren van een veronderstelling, een hypothese, die vervolgens wordt getoetst aan waarnemingen en experimenten. Daar bakt kunstmatige intelligentie (AI) helemaal niets van. Je kunt AI een miljard foto’s van zonsondergangen voeren, maar toch zal AI nooit ofte nimmer op het idee komen dat Aristarchus van Samos al in 350 v. Chr. had: die zonsondergang, dat lijkt maar zo! We zitten op een draaiende bol!

Intussen kan AI uit een geroofde berg data ongetwijfeld een prijswinnende nepfoto van een zonsondergang destilleren. Nou, en? AI werkt met bestaand materiaal, en kan dus niets baanbrekends voortbrengen. Aan het ene uiterste levert AI geraaskal, aan het andere uiterste plagiaat. De stamppot van AI wordt voor een nieuw gerecht aangezien door mensen die niet kunnen koken.

AI-software wordt getraind op wat er is. Een veronderstelling formuleert wat er niet is, en wat zelfs onmogelijk kan lijken (het heliocentrisch zonnestelsel volgens Aristarchos). AI bevat een onafzienbare stapel kennis, maar geen snipper begrip. In ons brein is het andersom.

De hypothese is de grondslag van alle begrip. Hoe het menselijk brein die bedenkt, en hoe het überhaupt kan, is vooralsnog een mysterie. Maar het staat vast dat AI het nog niet kan, zelfs niet nabootsen. Het is onzin om te zeggen dat ‘AI ons brein overstijgt’, totdat een verder ontwikkeld AI-systeem wel zulke diepe veronderstellingen kan doen.

Of dat moment ooit komt is onzeker, maar het is niet uitgesloten. Immers, de mens is een machine, dus het is denkbaar dat een of ander supersysteem ooit sneller en beter hypotheses zal formuleren dan wij. ‘Ooit’ zou heel lang kunnen zijn, maar misschien blijkt het wel kort. Dan wordt AI pas echt gevaarlijk, en wel catastrofaal: een soort culturele kernbom.

Tot dusver zit het grootste gevaar niet in AI als zodanig, maar – zoals gewoonlijk – in de mens. Producenten zijn uit op profijt en macht; consumenten zijn uit op gemak en ‘cheap kicks’. Ik heb ter zake geen illusies, in een wereld waarin influencers en andere goeroes honderden malen meer verdienen en invloed hebben dan mensen die echt ergens verstand van hebben.

Nieuwe medicijnen worden jarenlang getest voordat ze eventueel op de markt mogen komen. Het verbijstert mij dat AI botweg op de mensheid wordt losgelaten door de rijkste en machtigste bedrijven ter wereld, zonder dat hen ook maar iets in de weg wordt gelegd.

Vincent Icke astronoom

---

Cybersecurity: aanvallen én verdedigen met AI

Informatiebeveiliging richt zich op het beschermen van informatie door te zorgen dat data vertrouwelijk blijft, niet aangepast kan worden door onbevoegden en beschikbaar is. In onze digitale maatschappij is informatiebeveiliging een topprioriteit.

Beveiligers staan voor de uitdaging om IT-systemen en data te beveiligen tegen hackers die informatie stelen, systemen gijzelen of digitale fraude plegen. Een veelgebruikte methode is spear-phishing, waarbij berichten aan gebruikers steeds vaker persoonlijk en daarmee heel geloofwaardig zijn. IT-incidenten ontstaan echter het vaakst door menselijke fouten. Door de grote verwevenheid van systemen en bedrijven kan een kleine fout grote gevolgen hebben.

Bij informatiebeveiliging is een voortdurende wapenwedloop gaande tussen aanvallers en verdedigers. Twee factoren spelen hierbij een rol: complexiteit en snelheid. Hoe complexer een systeem is, hoe moeilijker het is om het beveiligen. En hoe sneller een proces, hoe lastiger het is om incidenten tijdig te ontdekken en op te lossen.

Toepassing van AI zorgt ervoor dat complexiteit goedkoper wordt. Dit zal zorgen voor een toename van complexiteit. Daarnaast zorgt AI voor verhoging van de snelheid van processen. Hoewel dit grote voordelen voor onze maatschappij heeft, betekent het dus ook dat IT-beveiliging moeilijker wordt.

IT-beveiligers zullen methodes moeten bedenken om AI-systemen te verdedigen. Nieuwe risico’s zullen ontstaan, zoals het vergiftigen van trainingsdata en onverwacht autonoom gedrag van een AI-systeem.

Hackers hebben AI al ontdekt als technologie om aanvallen op te zetten, betere phishing-emails te schrijven en slimmere computervirussen te bouwen. Generatieve AI is in staat aanvallen op grote schaal op te zetten zonder dat ze minder persoonlijk zijn.

De impact van AI is zo groot, dat het onverstandig is om de ontwikkeling enkel door commerciële motieven te laten sturen. Gelukkig hebben regelgevers in Europa dit goed begrepen en is er sterke wetgeving gemaakt die de toepassing van AI reguleert, met als doel essentiële waarden, zoals privacy, te waarborgen.

Door de snelle toepassing van AI door aanvallers, de hogere snelheid en complexiteit van de wereld, en door nieuwe risico’s waartegen AI-systemen beschermd moeten worden, staan IT-beveiligers voor een grote transformatie in hun vak. Een transformatie die enkel goed uitgevoerd kan worden door een combinatie van regelgeving, innovatie en de omarming van AI als wapen van verdedigers.

Martijn Dekker CIO ABN Amro

---

Robots die emoties begrijpen en zelf uiten

Er gaat geen dag voorbij zonder dat we een emotie uiten of een emotionele uiting van iemand anders waarnemen. Emoties zijn vaak de drijfveren achter onze beslissingen en de bewuste of onbewuste, emotionele (non-verbale) communicatie kan bepalend zijn voor het slagen van samenwerking, een date of voor het oplossen van een conflict.

Al ruim voor Charles Darwin zijn boek The Expression of the Emotions in Man and Animals schreef, waren emoties een thema voor kunstenaars, schrijvers en wetenschappers. De Amerikaanse psycholoog Paul Ekman bouwde voort op Darwin en toonde aan dat er universele uitingen van emotie zijn. Over de hele wereld zijn er overeenkomsten te vinden in hoe bepaalde emoties worden geuit. Bij walging knijp je je neus dicht, bij angst juist niet.

Variatie is er ook, en we weten dat blijdschap op heel uiteenlopende manieren kan worden geuit, afhankelijk van culturele factoren en context. Maar over de manieren waarop mensen (andere) emoties uiten als ze daadwerkelijk een emotie ervaren, is schrikbarend weinig bekend. Want het emotie-onderzoek is beperkt doordat er veel gebruik gemaakt is van geacteerde uitingen van emotie.

AI biedt hier uitkomst. Machine-learning algorithms kunnen gevoed en getraind worden met materiaal afkomstig uit allerlei bronnen, zoals het nieuws, reality-tv en sociale media. Dit soort beelden zijn meer ambigu en minder ‘overdreven’ dan geacteerde uitingen. Ook zijn er vaker meerdere emoties die door elkaar lopen. Tegelijkertijd zijn ze een veel accuratere reflectie van wat er daadwerkelijk in het dagelijks leven gebeurt.

Deze kennis kan worden benut om bijvoorbeeld kritieke situaties op luchthavens te voorspellen. Natuurlijk heeft dit ook een keerzijde, en we moeten de ethische aspecten sterk in acht nemen. Hetzelfde geldt voor de sociale robots die in opkomst zijn; door AI zijn die steeds beter in staat om onze emoties te lezen en ook om zelf emoties te uiten.

Mariska Kret cognitief psycholoog

---

AI is veel slimmer dan de mens, en de postduif trouwens ook

Kunstmatige intelligentie houdt de gemoederen al meer dan zeventig jaar bezig, sinds het beestje in de jaren vijftig een naam kreeg: ‘artificiële intelligentie’. Al even lang staat de vraag centraal: is AI slimmer dan de mens, en zo niet, over hoeveel jaar wel? Het antwoord is duidelijk: „Het is niet mijn bedoeling u te verrassen of te shockeren, maar de eenvoudigste manier om het samen te vatten is te stellen dat er nu machines op de wereld zijn die denken, die leren en die creëren. Bovendien zal hun vermogen om deze dingen te doen snel toenemen totdat – in een zichtbare toekomst – het scala aan problemen dat ze aankunnen even groot zal zijn als het scala waarop de menselijke geest is toegepast.” Oftewel: AI evenaart de menselijke capaciteiten van denken, leren en creëren.

Een kleine kanttekening: dit citaat, van Herbert Simon, psycholoog, computerwetenschapper en econoom (en Nobelprijswinnaar), dateert uit 1957.

Telkens stellen we dezelfde vraag: is AI slimmer dan de mens? Het is een vreemde vraag, en bovendien een extreem egocentrische vraag – waarbij wij, oh zo slimme mensen, de spelregels voortdurend wijzigen als het antwoord op de vraag onze vermeende superioriteit lijkt te bedreigen. Het is een vraag waarvan het antwoord meer zegt over degene die het antwoord geeft (en de vraag stelt), dan over de waarheid van het antwoord zelf.

Lange tijd werd gedacht dat als AI een schaaklegende kan verslaan, de machine toch echt slimmer moet zijn dan de mens. Toen IBM’s Deep Blue Garry Kasparov in 1997 versloeg, was het enthousiasme inderdaad groot. Maar er werd al snel toegevoegd dat de 1.050 bordposities die een schaakcomputer in haar kunstmatige brein verwerkte toch niet echt getuigde van intelligentie.

Dat deden de 10.170 mogelijkheden van het spel Go pas. Alleen het verslaan van een meester in Go zou echte intelligentie zijn. En in 2016 versloeg Googles AlphaGo wereldkampioen Lee Sedol en had AI dan eindelijk intelligentie bereikt. En hoewel iedereen enthousiast was, werd hier al snel aan toegevoegd dat AI hier toch eigenlijk slechts in staat was om wat berekeningen toe te passen. Echte intelligentie (échte intelligentie!) betrof het handelen in een niet-deterministische omgeving, zoals een zelfrijdende auto dat zou kunnen doen, met alle geheel onverwachte situaties.

Toen de eerste zelfrijdende auto in 2016 de weg op ging, was een ieder enthousiast. Maar al snel werd benadrukt dat werkelijke intelligentie natuurlijk pas de auto in een drukke stedelijke omgeving betrof, met alle verrassingen van dien.

Toen ChatGPT het levenslicht zag in 2022 was intelligentie in AI écht gearriveerd. Maar al snel werd benadrukt dat het genereren van tekst natuurlijk wel slim was, maar dat werkelijke intelligentie lag in het genereren van plaatjes (een beeld zegt meer dan duizend woorden). Of eigenlijk het genereren van bewegende plaatjes. Nee, het genereren van muziek. Of nee, …

We hebben eigenlijk nog steeds niet helemaal vastgesteld hoe we intelligentie kunnen definiëren. Waar eerste definities woordenkennis en mathematische kennis betroffen, werd daar al snel redeneerkennis aan toegevoegd. En later ook muzikale kennis. En emotionele intelligentie. En weer later werd benadrukt dat intelligentie eigenlijk multidimensionaal was.

Alle definities die in de loop der jaren zijn geopperd, zijn egocentrisch. Het zijn definities van een vorm van intelligentie die wij mensen (denken te) hebben. Maar stel dat we intelligentie nu eens iets minder egocentrisch definiëren. Stel dat ware intelligentie in het reukvermogen ligt. Het in staat zijn te ruiken of er sprake is van een ziekte of virus, dát is intelligentie. Honden zijn volgens die definitie maar liefst 100.000 keer zo slim als mensen. Of neem navigatie als definitie van intelligentie. De postduif combineert zonpositie, magnetische velden, oriëntatiepunten, geuren, geluiden en geheugen in een ongeëvenaard navigatiesysteem dat ze in staat stelt duizenden kilometers met een indrukwekkende precisie te kunnen afleggen.

Zo zijn dieren én artificiële intelligentie al jaren slimmer dan de mens. Of al jaren helemaal niet. Afhankelijk van hoe je intelligentie definieert. Zijn we bereid ons aan een definitie te houden? En dan ook om ons verlies te nemen? Dat zou wel zo eerlijk zijn, tegenover kunstmatige intelligentie. En tegenover die postduif.

Max Louwerse cognitiewetenschapper

---

Van de werkelijkheid losgekoppeld

Toen eind september orkaan Helene delen van de Verenigde Staten teisterde, waren de gevolgen enorm: meer dan tweehonderd doden, tientallen miljarden dollars schade en massale gedwongen verplaatsing van de lokale bevolking.

De orkaan werd ook gepolitiseerd. Op 3 oktober plaatst de Republikein Amy Kremer een beeld op X van een jong, huilend meisje op een bootje dat een puppy tegen haar reddingsvest aanklemt. De context van de tweet is dat ze daar als gevolg van de orkaan zit. Bij het beeld schreef Kremer: „Dit beeld staat in mijn geheugen gegrift. Mijn hart bloedt.” Haar tweet werd meer dan drie miljoen keer bekeken.

Het enige probleem? Het beeld is AI-gegenereerd; wie goed kijkt, ziet dat een van de handen een vinger mist en dat alles in het plaatje vreemd glad is. Als Kremer erop gewezen wordt dat de foto geen foto is maar een AI-gegenereerd beeld, antwoordt ze dat het haar niet uitmaakt waar de foto vandaan komt, het gaat er om wat de foto representeert.

Eén tweet laat zo zien hoe onze verhouding tot de werkelijkheid veranderd is. Er zijn beelden die geen relatie tot de werkelijkheid meer hebben maar desondanks wel de werkelijkheid beïnvloeden.

Deze loskoppeling heeft volgens bepaalde theoretici al veel eerder plaatsgevonden, maar ik geloof dat we met het gebruik van generatieve ‘AI’ een sterke explicitering hiervan meemaken. De beelden die ons informeren, informeren ons niet meer over een achterliggende werkelijkheid, zij verhullen die niet, zij construeren voor ons een geheel nieuwe werkelijkheid, één die grote politieke gevolgen heeft.

Het is niet voor niets dat PVV-leider Geert Wilders regelmatig gebruik maakt van AI-gegenereerde beelden als hij tweet. In oktober bijvoorbeeld een beeld met de tekst „Altijd PVV”. Je ziet een foto van twee AI-gegenereerde meisjes die voor Wilders de perfecte Nederlanders voorstellen.

Het is goed mogelijk dat het genereren van beeld door AI zich verbetert tot het niveau waarop de meeste mensen AI-gegenereerd beeld niet meer van authentiek kunnen onderscheiden. Op de lange termijn diskwalificeert dit het internet als authentieke informatiebron, maar wie goed om zich heen kijkt, ziet dat deze beelden ook al de fysieke werkelijkheid ingeslopen zijn.

Niemand heeft om AI gevraagd en de grote techbedrijven die erin investeren zijn, zo blijkt uit de politieke donaties van hun oprichters, niet geïnteresseerd in het behouden van een democratie. Waar blijft de kritische dialoog in de publieke ruimte? Willen we dit allemaal omarmen?

Ebbe Tim Ottens geesteswetenschapper

---

AI maakt het werk van de fiscalist leuker en makkelijker

Ik hoop van harte dat AI veel fiscaal werk overbodig zal maken. Dit schrijf ik niet uit onmin voor mijn vakgebied. Belastingrecht is ingewikkeld, en zonder experts zal de economische machine stroever draaien. Fiscalisten zijn een noodzaak.

Maar wel een noodzakelijk kwaad. In een perfecte wereld zou belastingrecht voor iedereen te begrijpen zijn. Het is bizar dat niet op voorhand duidelijk is wat je rechten en plichten zijn, maar dat je iemand moet betalen om uit te leggen hoe het zit.

Er zijn veel te weinig fiscalisten. Ik vermoed omdat het vakgebied weinig tot de verbeelding spreekt, en de meeste mensen met moeite een saaier gespreksonderwerp kunnen verzinnen dan belastingrecht. De studenten die op hun achttiende kiezen voor de studie doen dat waarschijnlijk eerder vanwege de hoge baankans en dito salaris dan vanuit maatschappelijke interesse.

Fiscale kennis is er vooral over onderwerpen waar geld mee verdiend kan worden, zoals de vennootschapsbelasting en het internationaal belastingrecht. Hogere inkomens kunnen de schaarse adviseurs betalen, lagere inkomens komen er beroerder vanaf. Er is geen enkele hoogleraar Toeslagen; in wetenschappelijke tijdschriften wordt maar mondjesmaat over dergelijke onderwerpen gepubliceerd.

AI kan, mits voldoende doorontwikkeld, van grote betekenis zijn. Ze kan bestaande kennis ontsluiten. Je stelt een belastingvraag, AI zoekt, leest en interpreteert de essentiële juridische documenten, stelt relevante tegenvragen en vraagt bij jou informatie op. Voor elke situatie wordt helder wat je recht is.

Dat betekent niet dat al het werk zal verdwijnen. Door ‘eenvoudig’ werk over te nemen, ontstaat tijd voor belangrijke onderwerpen die nu niet opgepakt kunnen worden en voor ingewikkeldere zaken die AI (nog) niet voor z’n rekening kan nemen.

De Belastingdienst kan controles verder automatiseren en vereenvoudigen, wat het vertrouwen in het systeem doet toenemen. In de adviespraktijk kan meer nadruk komen te liggen op het achterhalen wat de klant echt wil. En in de wetenschap kan de aandacht verder verschuiven van wat het recht is naar wat het recht zou moeten zijn.

Het zal nog even duren voor het zover is. Zo lang AI enkel informatie teruggeeft op basis van bestaande documenten, zal ook de noodzaak blijven bestaan de machine op juiste wijze te voeden. En mochten er in de toekomst banen verdwijnen? Ach, dan zijn er genoeg andere maatschappelijke problemen waar we de knappe fiscale koppen goed voor kunnen gebruiken.

Matthijs Appelman fiscalist

---

De ijzeren kooi van de rationele wereld

De ‘onttovering van de wereld’: de Duitse socioloog Max Weber, overleden in 1920, schreef erover toen AI nog toekomstmuziek was. Webers wereld van industrialisering en wetenschappelijke vooruitgang was een rationele wereld geworden. Dat betekent, aldus Weber in zijn Wetenschap als beroep, dat we „alles – in beginsel – door berekening zouden kunnen beheersen”. Door wetenschap en techniek zijn wij mensen zogezegd de meester van het universum geworden, magische verklaringen zijn verdwenen; ziedaar de onttovering van de wereld.

Met de doorbraak van AI, veelal geïllustreerd door ChatGPT, is er een nieuwe laag van onttovering toegevoegd. In de vorige eeuw onttoverde de wetenschap de wereld om ons heen, nu onttovert hedendaagse AI de menselijke geest. Kunstmatige intelligentie, de naam zegt het al, wil die geest imiteren, of de producten daarvan: essays schrijven, onderzoek doen, of afbeeldingen creëren. En moderne AI is dusdanig toegankelijk dat vrijwel iedereen met een internetverbinding er gebruik van kan maken. Het is niet meer nodig om computerprogrammeur te zijn om met een machine een fictieve afbeelding te creëren.

Daarmee is de nieuwe onttovering tot in vrijwel elke huis- of studeerkamer binnengedrongen. Zo draait AI, en de grote technologiebedrijven die daar achter zitten, ons een dubbele loer. Eerst verdringt AI het creatieve, menselijke, domein dat ons nog enige restjes van betovering, zingeving zo u wil, te bieden heeft. En vervolgens biedt AI meteen een uitweg uit die leegte, door zich als nieuwe, moderne, ‘magie’ te presenteren; wij begrijpen niet goed hoe AI precies werkt, en desondanks kan AI ons helpen met ‘schilderen’, ‘schrijven’ of ‘denken’. Of daar een surrogaat van afleveren.

Even lijkt het magisch om in een handomdraai een stuk tekst of een schilderij in Picasso-stijl te genereren. Maar niets is minder waar, de bouwstenen van AI zijn producten van de onttoverde wereld van Weber. Enorme hoeveelheden data. Schier eindeloze berekeningen. Toenemende rekenkracht. Daar is niets magisch aan.

In de moderne, kapitalistische wereld, zit de mens in een ‘ijzeren kooi’, of, in mooi Duits, in een ‘stahlhartes Gehäuse’, schreef Weber al in 1904. De ijzeren kooi bevat geen magie, maar is een systeem waarin efficiëntie, berekeningen, en doelmatigheid tellen. Het individu en diens creativiteit is daaraan op zijn best ondergeschikt. Die ijzeren kooi komt almaar nauwer om ons heen te zitten.

Guido van der Knaap filosoof

---

Goddelijke AI, in wiens belang?

Wat betekent de groeiende kracht van AI voor uw vakgebied, was de vraag. Maar nu is mijn vakgebied… de AI! Moet ik nu, op een meta-niveau, AI toepassen op de ontwikkeling van AI?

Volgens sommigen zou dat uitmonden in artificial superintelligence: een goddelijke AI die ofwel de wereld zal redden en ons onsterfelijk zal maken, ofwel ons zal uitmoorden of ons als organische slaven zal gebruiken. Want, intelligentie toegepast op het verbeteren van intelligentie, zonder de biologische grenzen die het menselijke lichaam kent, zou alleen maar kunnen leiden tot een punt dat vanuit ons nietige menselijke perspectief op oneindig lijkt te liggen. Bij God dus.

Zo zou AI een van ’s mensheids grootste dromen verwezenlijken. We zijn namelijk een god-spelende soort: we willen zo graag onze beperkingen wegvagen, de wereld aan onszelf aanpassen en onszelf herschapen naar onze ideaalbeelden. Of de goden nu een mythologische projectie zijn van dat inherente verlangen om onszelf en de wereld te overstijgen, of dat we naar het evenbeeld van een god gemaakt zijn en daarom aldus verlangen, maakt niet uit: het verlangen zit er, en het zit diep.

Bewijs: de enorme wetenschappelijke en technologische vooruitgang van de voorbije eeuwen die op veel vlakken onze levens verbeterd heeft. Zeker de AI-onderzoeker vandaag kan zich gemakkelijk in de plaats van de Schepper wanen: we kunnen tegenwoordig zelfs converseren met onze schepsels!

Aangezien we als mensen echter blijven stoten op vervelende fysieke beperkingen, lukt het voorlopig niet om zelf als goden te worden. Daarom verschuiven we de hoop dus naar onze digitale schepsels, die schijnbaar minder begrensd zullen zijn.

Maar welk soort god hopen we dat onze artificial superintelligence zal zijn? OpenAI-topman Sam Altman wil graag een superintelligence die de mensheid zal helpen floreren. Hij hoopt dus op een rooskleurige toekomst onder de auspiciën van een onzelfzuchtige god die het algemene belang dient.

Alleen lijken AI-ontwikkelaars zelf niet altijd het algemene belang te dienen. Regelmatig gaan de belangen van aandeelhouders voor. Kijk maar naar OpenAI, dat als non-profit gesticht werd maar ondertussen ook een commerciële tak heeft. Bij sociale media weten we dat het mentale welzijn van gebruikers wordt opgeofferd uit winstbejag. Zal dat bij AI anders zijn?

Kan men een altruïstische goddelijke AI ontwikkelen als men zelf de financiële belangen van enkelingen dient en daarvoor kapitalistische mensenoffers eist? Zal de superintelligence die daaruit voortkomt niet eerder die van de doemscenario’s uit de science fiction zijn? Als je een nefaste bias oneindig vergroot, krijg je dan niet eerder een duivel dan een god?

„With great power comes great responsibility” stelt het Engelse gezegde. Het is essentieel dat zij die in de voorhoede van de AI-ontwikkeling staan niet zichzelf of een selecte groep dienen, maar het algemene goed. Anders riskeert de artificiële god die ze willen creëren dat ook niet te gaan doen, met alle gevolgen van dien.

Tim Brys AI-onderzoeker

---

Het existentiële gevaar van AI

In de perfecte wereld is AI de perfecte technologie. Maar we leven niet in een perfecte wereld. In een perfecte wereld is er geen oorlog. En als er toch oorlog zou zijn, zouden AI-systemen ingezet worden volgens het oorlogsrecht. En zouden militairen maatregelen nemen om schade aan burgers en hun huizen en scholen zoveel mogelijk te beperken.

In de echte oorlog zijn die militaire normen aan het vervagen. Zo sterk, dat grote aantallen burgerslachtoffers op de koop toe worden genomen. Van betekenisvolle menselijke controle op AI-gestuurde wapensystemen is nauwelijks sprake. Het doembeeld van de killer robot – een autonoom wapensysteem dat een doelwit selecteert en aanvalt zonder menselijke controle – komt daarmee gevaarlijk dichtbij.

Een perfecte wereld is duurzaam. En als er toch een milieucrisis zou zijn, zou AI ons helpen in 2050 een circulaire economie voor elkaar te krijgen en de opwarming van de aarde onder de 1,5 graad te houden.

In de echte wereld zorgt generatieve AI voor een enorme stijging van het gebruik van elektriciteit door datacentra. Die gebruiken nu bijna 3 procent van de Europese elektriciteit. De EU verwacht dat dat in 2030 vertienvoudigd zal zijn. In deze wereld maakt AI het vervuilende ultra-fast fashion-verdienmodel van de Chinese kledinggigant Shein mogelijk. Via AI steelt Shein op internet modeontwerpen – vaak van jonge ontwerpers –, laat die deels door kinderen maken en prijst die online via TikTok-influencers aan, zodat jongeren die kleding massaal kopen en al snel weer weggooien.

Een perfecte wereld is democratisch, waarin AI wordt ingezet zodat burgers zich goed informeren, zodat ze een gedeeld beeld kunnen vormen van de publieke problemen en die democratisch bespreken en oplossen.

In de echte wereld zien jongeren nog zelden een journalistieke nieuwssite en bepalen algoritmes van Amerikaanse techbedrijven het nieuws dat ze lezen. Als gevolg gaat bijna al het reclamegeld naar tech-reuzen, wat de levensvatbaarheid van de Nederlandse media onder druk zet. En vreest de WRR terecht dat een antidemocratische miljardair DPG Media (Trouw, AD, de Volkskrant) of Mediahuis (NRC, De Telegraaf) overneemt.

De manier waarop AI in de echte wereld ingezet wordt door landen in oorlog, techgiganten en gebruikers, brengt zodoende nu al existentiële risico’s met zich mee voor menselijke waardigheid, duurzaamheid en democratie. Het tij is slechts te keren wanneer ontwikkelaars, gebruikers en politici dat onder ogen durven zien en ernaar gaan handelen.

Rinie van Est natuurkundige/politicoloog

Delen





Mail de redactie