Het tomeloze technologische vooruitgangsoptimisme

Ieuw, kan dat niet veel moderner, vroeg mijn jongste kind zich onlangs af toen hij zich realiseerde wat de menselijke voortplanting precies inhield. Die uitspraak deed mij denken aan de absurde sciencefiction comedy die Woody Allen ooit maakte in 1973, Sleeper, (toen hij nog niet van de serieuze films was). Daarin wordt Allen in 1973 ingevroren, om tweehonderd jaar later ontdooid en wel in een dystopisch Amerika te ontwaken waar seks inderdaad is gemoderniseerd. Je hoeft alleen nog maar in een orgasmotron te stappen en klaar is Kees.

Dystopisch, omdat die mechanisering was bedoeld om het leven efficiënter en aangenamer te maken, maar in handen van een dictatoriale leider is ontaard in onderdrukking van vrije seks en voortplanting, waarbij het biologische productieproces is gereduceerd tot een kloonprogramma.

Dat zijn de hersenspinsels waar ik soms aan moet denken als ik de jubelzangen op de toekomst van AI lees.

Onlangs hief de ceo van OpenAI, Sam Altman, weer een loflied aan op de transitie naar een volledig AI-geleide wereld. Iedereen zou ervan profiteren. Met AI-mailprogramma’s worden we nog effectiever en productiever, met AI-medische adviseurs nog gezonder, met ChatGPT nog slimmer en met AI memes nog grappiger, dixit Altman. Er moet nog wel wat aan ChatGPT gesleuteld worden, „want we willen niet dat ChatGPT een bias voor of tegen een bepaalde politieke lijn heeft”. Maar hé, ondanks dat de ‘tools’ nog „still somewhat broken” zijn, laten we ze toch vooral zo snel en vroeg mogelijk aan de wereld laten zien (dat wil zeggen: de markt gaan domineren), om op die manier „genoeg input” op te halen. Want, zo sloot het AI Magnificat af, „the level of individual empowerment coming is wonderful”.

Gezonder en gelukkig

Er kwam genoeg tegenwind op Twitter, gelukkig. Tegelijkertijd heeft Altman steeds gelijk gehad. AI is onstuitbaar. En AI brengt ons reeds tal van voordelen. Net zoals alle eerdere technologische ontwikkelingen de mensheid statistisch en generiek gezien ook gezonder, gelukkig en welvarender hebben gemaakt. Maar dat is niet het punt. Want we leven niet bij statistieken en generalisaties alleen.

Het echte, grote probleem met uitlatingen zoals die van Altman, en het tomeloze vooruitgangsoptimisme dat eruit spreekt, wordt te weinig benoemd. Dat is dat het de geschiedenis van de mensheid ontkent. En wel op drie manieren.

Ten eerste gaan de ontwikkelingen zo snel, en worden ze door mensen als Altman bewust met die onstuimigheid voortgedreven, dat er geen tijd en ruimte meer is voor reflectie. Tegen die technologiedrift en ondernemingsenergie houdt nauwelijks een minister stand. Lees het inmiddels beruchte Nu.nl-interview met VVD-coryfee Edith Schippers er maar op na, we moeten het bedrijfsleven alle ruimte bieden, belasting verlagen en start-ups niets in de weg leggen, want groei is goed en stilstand is achteruitgang. Anderen dan ik hebben reeds veel beter en overtuigender uitgelegd dat de grootste fouten van AI al in het design worden gemaakt. Daarop qua tijd of regulering bezuinigen en bochtjes afsnijden, levert later grote ellende op (het ‘Jurassic-park-argument’).

Ten tweede is er noch sprake van een vrije markt waarin eerlijk wordt geconcurreerd om de beste toepassingen, noch is er sprake van een vrije deliberatieve ruimte om hier open en zonder last of ruggenspraak afwegingen over te kunnen maken. Jürgen Habermas legt dat in zijn laatste boek, Ein neuer Strukturwandel der Öffentlichkeit (2022), haarfijn en messcherp uit. Op social media is de ruimte tussen privaat en politiek vermengd geraakt. Enkele techgiganten hebben een monopolie veroverd waardoor er voor de individuele burger nauwelijks ruimte meer zich vrij van invloeden en manipulaties een eigen mening te vormen, laat staan de algoritmes aan te passen.

Moraal en zingeving

Ten derde kan ChatGPT nog zoveel kennis over de geschiedenis formuleren, de inzichten uit die geschiedenis kan het niet zelf ter harte nemen. Moraal en zingeving zijn zaken die we niet aan markt of machine moeten overlaten. Dat is iets van de gemeenschap als geheel. Die moet erkennen dat monopoliemacht corrumpeert. Dat de publieke zaak is gediend bij meer dan alleen vooruitgang en groei. Dat het klimaat ook een stem heeft. En dat technologische vooruitgang zonder democratische en sociale checks and balances ongelijkheid en vervreemding vergroot.

Hoe moet het dan wel? Niet de markt, of de techniek, maar de samenleving is nu aan zet, de politiek, en ja ook de wetenschap. Maar niet als achterhoedegevecht, maar aan het front van de nieuwe ontwikkelingen. De VN riep twee jaar geleden al op tot een moratorium op verkoop en gebruik van AI-systemen totdat er voldoende juridische en democratische waarborgen zijn ingevoerd. Wat is daarvan terechtgekomen?

En de orgasmotron? In Sleeper leiden die seksmachines tot grote ontwrichting. De mensheid kan in 2173 nog steeds niet doseren, weet niet van ophouden en laat hersens en zenuwstelsel zodanig individueel en collectief gaar koken dat ze slechts nog uit willoze zombies door het leven gaat. Wat de dictatoriale leiding uiteraard uitstekend van pas komt.