Tien boeken schreef de Franse filosoof Éric Sadin over de impact van technologie op de samenleving. De rode draad die hij daarbij observeert is, zoals hij dat noemt, een „totale digitalisering van het leven”, zo ongeveer sinds de komst van de smartphone in 2007 – een ontwikkeling waar volgens Sadin eigenlijk niemand om gevraagd heeft, en die vooral gedreven wordt door de commerciële belangen van Big Tech.
Zijn nieuwe boek La vie spectrale. Penser l’ère du métavers et des IA génératives (Grasset, 2023 – ‘Het spectrale leven. Een bespiegeling op het tijdperk van metaverse en generatieve AI’) verscheen 18 oktober en staat nu al hoog in de Franse bestsellerlijsten. Sadin beschrijft erin hoe het leven in de 21ste eeuw zich in zijn ogen verder zal ontwikkelen, met de AI-revolutie die gaande is: steeds vaker zullen algoritmes ons als spoken begeleiden in het leven, ons aanbevelingen influisterend voor een optimaal aangenaam en gezond bestaan.
De digitalisering van het leven zal steeds verder gaan, denkt Sadin, wordt alomtegenwoordig, steeds ‘spectraler’. „Spoken in immersieve omgevingen gaan ons meevoeren naar een soort algoritmisch surrealisme”, zegt hij via Zoom vanuit een hotelkamer in Medellín, Colombia – hij geeft er in twee dagen drie lezingen, dan vliegt hij door naar Italië, ook weer voor een lezing. „Ze zullen ons overal volgen om ons gedrag te interpreteren en ons continu diensten en producten aan te bevelen. Dat is het spectrale leven dat ik beschrijf in mijn nieuwe boek. Ik bedoel daarmee ook dat we andere mensen steeds meer ervaren als spoken die komen en gaan via schermen.”
In ‘La vie spectrale’ analyseert u ook de opkomst van de metaverse. Was dat laatste niet een mislukt idee van Meta-topman Mark Zuckerberg?
„Wat ik onder metaverse versta, is een ontwikkeling die allang gaande is, al zo’n vijftien jaar, en vooral sinds de pandemie. Menselijke relaties verliezen hun fysieke dimensie, en we belanden in wat ik noem een collectief isolement: ieder achter zijn scherm. Zuckerbergs grote onhandigheid was de metaverse een nog angstwekkender dimensie te geven, met helmen en avatars. Net op het moment dat we uit de pandemie kwamen, toen we hadden geleden onder de fysieke afwezigheid van andere mensen, kwam Zuckerberg vertellen dat hij de zaken nog eens wilde versnellen.”
Dat was een strategische misstap, volgens Sadin. „Wat niet wegneemt dat we allang in een soort metaverse leven, namelijk in een virtuele wereld, en dat gaat steeds verder. Wat we hebben ontdekt tijdens de lockdowns, met WhatsApp-borrels, topontmoetingen van staatshoofden, online interviews, virtuele doktersconsulten enzovoort – die ontwikkeling is in gang gezet en zal alleen maar sterker worden.”
In de 21ste eeuw, ziet Sadin, is technologie altijd verbonden met commercie. Als voorbeeld geeft hij vaak de zelfrijdende auto. „Zo’n auto brengt je niet alleen van Amsterdam naar Parijs, maar gaat je ook adviseren op een bepaalde plek te stoppen, bij een apotheek als je er moe uitziet, of bij een restaurant afhankelijk van je budget. Die zelfrijdende auto past in een bredere ontwikkeling: de volledige commercialisering van het leven, al gaande zolang er kapitalisme is en versterkt sinds de komst van marketing in de 20ste eeuw. Alleen zijn er nu nieuwe hulpmiddelen, zoals AI. De systemen weten steeds meer over jou, en gaan jouw gedrag steeds meer sturen.”
Sadin plaatst zichzelf in de traditie van de Franse denker Michel Foucault, die een diagnosticus van het heden wilde zijn. „Maar dat is nu niet meer genoeg”, aldus Sadin. „Technologie ontwikkelt zich zó snel. De techindustrie heeft altijd een voorsprong en we worden altijd te laat wakker. We zien de maatschappelijke gevolgen te laat. We komen te laat met wetgeving. Dus je moet proberen te zien wat zich aandient in de nabije toekomst.”
Sadins ster is rijzende, vooral nu zijn bezorgdheid steeds breder gedeeld wordt. Zijn boeken, opiniestukken en interviews verschijnen internationaal, niet zozeer in de Engelstalige wereld, maar vooral in Latijnse landen: Spanje, Italië en Zuid-Amerika. De helft van het jaar werkt hij aan een boek, de rest van de tijd reist hij de wereld over voor optredens, van Rome tot de Chileense hoofdstad Santiago.
U bent geen fan van de term ‘kunstmatige intelligentie’ – waarom niet?
„De term kunstmatige intelligentie suggereert: er is menselijke intelligentie en er is kunstmatige intelligentie, alsof AI op een natuurlijke manier de plaats van onze menselijke intelligentie zou kunnen innemen. Maar het is geen nabootsing van menselijke intelligentie. Het is een andere vorm van rationaliteit, die voornamelijk gebaseerd is op de wil om menselijke situaties te optimaliseren en het grootste deel van het bestaan te commercialiseren. Natuurlijk zijn er ook niet-commerciële toepassingen, maar wat mij interesseert, is de bredere structuur. De hele 20ste eeuw wordt gekenmerkt door rationalisering: alles beter organiseren, efficiënter maken, optimaliseren. Digitale technologie, dus ook AI, ligt in het verlengde daarvan. Het zijn geen onafhankelijke wetenschappers aan universiteiten die proberen iets te bouwen dat lijkt op menselijke intelligentie. AI wordt ontwikkeld door de techindustrie, met een winstoogmerk. Het dient geen publieke, maar private belangen.”
Ziet u geen positieve toepassingen, zoals AI die artsen kan helpen een betere diagnose te stellen?
„Medische AI past in een gigantische operatie, de privatisering van de medische sector, waar ook de farmaceutische industrie belang bij heeft. Want als de AI een diagnose gesteld heeft, wordt natuurlijk meteen het beste geneesmiddel aanbevolen. De context is dat de techindustrie probeert de medische sector te veroveren, wat haar trouwens al aardig lukt. Alle grote techbedrijven zijn ermee bezig. In de jaren 2016-2017 is enorm veel geïnvesteerd in medische AI, alle ziekenhuizen moesten het hebben. En wat bleek tijdens de pandemie? Er was gebrek aan zorg, aan bedden, aan zuurstofapparaten, aan artsen en verplegers! Niet aan AI.”
U beschrijft in uw boeken dat de functie van technologie de laatste tien jaar volledig veranderd is.
„Tot de vroege jaren 2010 beperkten digitale technologieën zich vooral tot verzamelen, opslaan en verwerken van informatie. Dat veranderde vanaf 2010, met de komst van neurale netwerken: op de werking van het menselijk brein geïnspireerde, zelflerende informatiesystemen die getraind worden op steeds grote hoeveelheden data, met steeds grotere rekenkracht, en zichzelf continu verbeteren. Sindsdien wordt technologie vaker ingezet om de werkelijkheid te analyseren en interpreteren, als een expert die dat beter en sneller kan dan wij. En die ons bovendien adviezen gaat geven.”
In zijn lezingen noemt Sadin vaak het voorbeeld van de navigatie-app Waze. „Dat is een app die de actuele verkeerssituatie in real time analyseert, met behulp van AI, satellieten en data van gebruikers, op een manier die onze cognitieve capaciteiten volledig te boven gaat. Op basis van die expertise vertelt die app ons links- of rechtsaf te slaan.”
Techniek die ons de weg wijst, letterlijk en figuurlijk. Die trend zet door, verwacht Sadin. „Steeds vaker zullen we beslissingen overlaten aan algoritmes. Zo zijn er AI-systemen in de human-resourceswereld die de competenties van sollicitanten beoordelen en uit duizend kandidaten de beste drie of vier selecteren. Nu komen er nog mensen aan te pas om met die drie of vier kandidaten een sollicitatiegesprek te voeren. Maar typisch voor AI-systemen is dat ze zich voortdurend en razendsnel verbeteren. We laten steeds meer aan ze over, dus ik kan me voorstellen dat er over vijf of zes jaar geen mens meer bij betrokken is.”
Sadin onderscheidt grofweg twee manieren waarop AI menselijk gedrag begint te sturen: vrijblijvend advies, zoals een sport-app die met AI een trainingsschema maakt. En een meer dwingend niveau, waarin AI bijvoorbeeld wordt ingezet op de werkvloer.
„Kijk naar de managementmethoden in de distributiecentra van Amazon, die gebaseerd zijn op AI-systemen. Werknemers worden aangestuurd via koptelefoons en systemen die hun vertellen wat te doen, die dwingende instructies geven. ‘Haal dit artikel uit die kast en leg het met deze snelheid op die pallet.’ Zo worden mensen in de Amazon-depots gereduceerd tot robots van vlees en bloed.”
Dat is het spectrale leven volgens Sadin, waarin algoritmes in toenemende mate de mens aansturen. „Daarna komt de volgende fase, de integratie van die nachtmerrie in onze hersenen, wanneer die via breinchips verbonden worden met technologie. Daar werkt het bedrijf Neuralink van Elon Musk aan, en veel andere bedrijven. Dat is de volgende stap in de immer groeiende automatisering, pixelisatie en spectralisering van menselijke aangelegenheden.”
Generatieve AI-systemen als ChatGPT werken met een ‘prompt’: een tekstopdracht of vraag die je invoert en waar het AI-systeem mee aan de slag gaat. Hoe denkt u dat dit zich verder ontwikkelt?
„Wat ik zie ontstaan, is een soort gegeneraliseerd ‘promptisme’. In plaats van dingen zelf te doen, gaan we instructies geven aan het AI-systeem. Bestel mijn boodschappen, vind een geschikte partner voor me, vertel me wie ik moet aannemen voor deze baan, ontwikkel een strategie voor mij, schrijf een versie van mijn lezing speciaal voor mijn publiek hier in Colombia, enzovoort. Het grote promptisme betekent: we doen nergens meer moeite voor, we hoeven onze intellectuele capaciteiten niet meer te gebruiken.”
Sadin geeft een voorbeeld uit het onderwijs. „Je ziet nu al dat leerlingen van tien jaar oud geen opstellen meer schrijven, maar een opdracht aan een AI-systeem geven – om een werkstuk te produceren dat het resultaat had moeten zijn van inventieve, creatieve activiteit. Het leren van de taal, het inspannen van de geest, ergens moeite voor doen. Zweten, ploeteren, lijden. Schrijven is niet makkelijk, maar het is ook de weerslag van onze individualiteit, van ieder wezen: spreken in de eerste persoon, ons uitdrukken op onze eigen manier, op ons eigen niveau, zowel in het dagelijkse leven als in grote romans. Daarom vind ik dat generatieve AI een bedreiging vormt voor menselijke expressie, een van de meest fundamentele aspecten van het mens-zijn.”
Met generatieve AI doelt Sadin niet alleen op chatbots als ChatGPT die tekst genereren, maar ook op AI-gegenereerde video en audio: voiceclones, deepfakes, beelden gemaakt door image generators zoals DALL-E en Midjourney.
Wat voor gevolgen ziet u voor de democratie, nu zulke technologie voor iedereen toegankelijk wordt?
„We gaan naar een wereld waarin ieder zijn eigen waarheid heeft. Maak een video speciaal voor mij, waaruit blijkt dat Trump een geweldige kerel is. Maak er eentje waarin zwarte mensen een vrouw wurgen in het 16de arrondissement. Je krijgt dus prompts die gevoed worden door menselijke boosheid of domheid, en die in het publieke domein belanden.”
Hij verwijst naar zijn boek Het tijdperk van de ik-tiran uit 2020. „Zoals ik in dat boek heb geanalyseerd, heeft de samenleving steeds minder een gemeenschappelijke basis, in de zin van gedeelde waarden en principes. Dat draagt bij aan een gevaarlijke versplintering van de samenleving. Als dan ook nog eens allerlei beelden gefabriceerd kunnen worden door grillige en krankzinnige individuen, om anderen te overtuigen van een politieke boodschap, of om haat te zaaien, dan zie je naar wat voor samenleving dat toegaat: eentje waarin iedereen doof is voor elkaar, met alle gevaren van dien.”
Ja, Sadin is diep bezorgd – maar hij gelooft niet in „existentieel risico”: de kans op uitsterven van de mens door toekomstige superintelligentie. „Sommigen hebben het over het einde van de mensheid, maar dat is het niet, dat is onzin. Wat op het spel staat, is niet het overleven van de menselijke soort, maar dat wat ons tot mens maakt: onze levenskracht, ons vuur. Het is onze levendigheid, het leven in ons dat gedoofd dreigt te worden.”
Is daar nog wat aan te doen?
„We zouden generatieve AI moeten verbieden. Want waar komt deze AI-revolutie eigenlijk vandaan? Het is geen maatschappelijk project, het is niet dat een meerderheid van de samenleving zegt: laten we dit doen, laten we met elkaar deze kant op gaan. Het is een handjevol ingenieurs, de techindustrie, een paar duizend mensen, die opeens dit soort systemen maken en op de markt gooien, die het menselijke leven volledig gaan veranderen. Dat zouden we gewoon niet moeten accepteren. De sleutel tot de toekomst van de mensheid zou niet in handen moeten zijn van zo’n klein clubje techmiljardairs.”
