:format(webp)/s3/static.nrc.nl/bvhw/files/2023/09/data104965870-360a3f.jpg)
Beelden van voormalig Chileense president Salvador Allende tijdens een herdenkingsbijeenkomst in het nationale stadion van Santiago.
N.B. Het kan zijn dat elementen ontbreken aan deze printversie.
Interview
‘Dit is niet je typische technologie-podcast”, vertelt Evgeny Morozov aan het begin van de eerste van negen afleveringen van podcastserie The Santiago Boys, en dat blijkt nogal een understatement. In een soort marathondocumentaire van ruim negen uur verhaalt Morozov van het Chili onder de socialistische president Salvador Allende, begin jaren zeventig. Een groep engineers werkt in de hoofdstad Santiago aan project Cybersyn, waarbij computers en cybernetica, een bepaald soort informatica, worden ingezet om de economie aan te sturen. Chili probeert een eigen economische en technologische koers te varen, de socialistische regering wil niet langer afhankelijk zijn van Amerikaanse bedrijven.
Het bewind van Allende duurt te kort om succesvol te zijn. Bovendien kampt Allende behalve met tegenstand van de rechtse oppositie ook met ondermijning door de Verenigde Staten: de CIA en telecomreus ITT – big tech van die tijd – werken Chili op allerlei manieren tegen. Op 11 september 1973, nu vijftig jaar geleden, pleegt generaal Augusto Pinochet een staatsgreep, waarbij Allende om het leven komt. Project Cybersyn sterft daarna een stille dood.
Het is een spannende en dramatische geschiedenis, die Morozov in een knap gemaakte podcast chronologisch en veelal in scènes vertelt, doorsneden met de getuigenissen van enkele hoofdrolspelers. Je moet je aandacht erbij houden, want het is veel en soms erg gedetailleerd. Die complexiteit is bewust, de geschiedenis is nu eenmaal ingewikkeld.
En die complexiteit past bij Evgeny Morozov, vaak omschreven als technologie-criticus. In zijn doorwrochte artikelen en boeken neemt hij vaak de grote tech-bedrijven op de korrel. Maar misschien is een betere omschrijving wel kapitalisme- of neoliberalisme-criticus. Want hij bestrijdt dat het een goed idee is om de ruimte geven aan private bedrijven om maatschappelijke problemen aan te pakken, om overal technologie in te zetten als oplossing. The Santiago Boys gaat behalve over geschiedenis dan ook over de vraag of er een alternatief mogelijk is voor de dominantie van de technologie zoals grote Amerikaanse bedrijven die nu aanbieden, en wat er te leren valt van het revolutionaire „Chileense experiment” met het op een andere manier inrichten en aan sturen van de de economie.
Niet louter technici
Wat hem aan de engineers in Santiago zo fascineerde, vertelt Morozov in een videogesprek, is het utopische karakter van hun onderneming, hun poging de wereld te veranderen. De „stoutmoedige ambitie van tegen de draad in gaan en iets heel anders doen dan IBM en het Pentagon en Wall Street, en dat ze dan vermorzeld worden door hen, of dat hun ideeën door hen toegeëigend worden”. Pas tijdens zijn research kwam hij erachter hoezeer deze engineers niet louter technici waren: „Ze hadden een achtergrond in economie, ze hadden een zeker geopolitiek bewustzijn van de Koude Oorlog, en ze waren er echt op uit om een alternatief project op te bouwen. Cybersyn was er maar een onderdeel van. Dat was alleen maar de ‘management software’ dat het project moest aandrijven; de ideologie kwam ergens anders vandaan, van hun studie naar afhankelijkheidstheorieën en economie. Hun engagement was een vorm van radical engineering.”
De benaming ‘Santiago Boys’ koos Morozov als toespeling op de veel bekendere Chicago Boys, de groep neoliberale economen die het vrijemarktdenken van Milton Friedman onder Pinochet in de praktijk brachten. „Ik zou de stelling willen verdedigen dat zij alleen maar een reactie waren” – op de pogingen van Allende en zijn engineers om een eigen koers te varen.
Morozov ziet parallellen tussen toen en nu. „Allende begon aan een programma dat we vandaag de dag waarschijnlijk zouden omschrijven als technologische soevereiniteit of technologische autonomie. Er werd toen samengespannen tussen ITT en de CIA, en dat is niet zo anders dan de samenspanning tussen bijvoorbeeld de NSA [Amerikaanse geheime dienst] en Silicon Valley, zoals Edward Snowden heeft blootgelegd.” Zijn onthullingen, en ook die over het bedrijf Cambridge Analytica, dat Facebook-data oneigenlijk gebruikte voor politieke advertenties, leidden volgens Morozov tot een ommekeer in onze houding ten opzichte van het internet en Silicon Valley. Maar: „Als je enige aandacht aan de geschiedenis had geschonken, aan de rol die technologiebedrijven spelen in het buitenlands beleid, en hoe die bedrijven een instrument zijn voor de belangen van de VS, dan had je in de jaren zeventig al die lessen al getrokken.”
:format(webp)/s3/static.nrc.nl/images/gn4/stripped/data104389874-e99c09.jpg)
Digitale infrastructuur
De retoriek rond het ‘vrije internet’, dat het internet iets uitzonderlijks is dat we moeten omarmen, bevalt hem niet. Omdat die manier van denken naïef is en ook iets onbenoemd laat. „Telecommunicatie en mediaplatforms hebben altijd een bepaalde politieke economie achter zich. Ze komen nooit los van invloed van de staten, de bedrijven en het leger die ze ontwikkelen. Dat was bij het internet duidelijk het geval. Het was een Amerikaanse technologie, onderworpen aan Amerikaanse regulering, gesteund door het Amerikaanse ministerie van Economische Zaken: het was een wezenlijk onderdeel van de neoliberale wereldorde die de VS toen maar al te graag verdedigden.”
De Amerikanen staan vanwege hun grote belangen daarom nu ook nieuwe digitale ontwikkelingen elders in de wereld in de weg, meent Morozov. „Als je landen hun eigen economische pad wil laten volgen, dan moet je ze de capaciteit en de mogelijkheid toestaan om zelf de digitale infrastructuur te bezitten die digitale economieën nodig hebben om van de grond te komen. Dat is nu niet zo. Onze digitale infrastructuur is steeds meer in handen van bedrijven als Open AI en Microsoft.”
Met het nastreven van autonomie, nodig voor de eigen ontwikkeling, haalde Allende zich de Amerikanen op de nek, stelt Morozov. „Je hebt de ruimte nodig om te kunnen manoeuvreren. Maar op het moment dat je die inneemt, slaan de mensen en de bedrijven die deze ruimte bezet houden terug.”
Dat werpt de vraag op welke kansen er zijn voor Europa om strategische autonomie te bereiken. Zo spant de Franse president Macron zich in om onafhankelijk worden op het gebied van veiligheid, economie en technologie. Nu is Europa nog sterk afhankelijk van de VS. „De VS vertellen Nederland dat ASML, een van zijn leidende tech-bedrijven, niet met China mag handel drijven. Maar ik kan me niet voorstellen dat Nederland de VS voorschrijft hoe het de maakindustrie moet inrichten of dat het wel of niet met Brazilië of Saoedi-Arabië mag zaken doen.”
Silicon Valley overschat
Gegeven de omvang van de Europese economie, ziet Morozov alle reden voor Europa om grotere ambities te hebben dan junior partner van de VS te zijn. Ook omdat Europa achterloopt; de Europese industrie is niet echt cutting edge, zegt hij. „Waarom zegt Europa niet: kijk, wij hebben ook onze geopolitieke en handelsbelangen en wij willen dat onze industrie ook ontwikkeld is.” Op de vraag of Europa zijn eigen technologische infrastructuur kán ontwikkelen, is Morozov duidelijk: „Het zal niet gebeuren, tenzij er een weloverwogen en expliciete wens toe bestaat. De vrije markt gaat het niet ontwikkelen. Dat deed de vrije markt ook niet in de VS.”
„Macron heeft geen moeite met het bespreken van technologische soevereiniteit of autonomie. Maar als je naar de daadwerkelijke beleidsagenda kijkt, dan komt het erop neer dat hij een campus wil bouwen, waar start-ups triviale dingen maken bovenop de infrastructuur die eigendom is van Open AI, Microsoft of Amazon. Dat doet niets voor het bevorderen van Europese technologische soevereiniteit.”
Europa overschat Silicon Valley. We hebben te weinig oog voor de financiële factor in het ‘succes’ van de tech-sector, zegt Morozov. „Tussen 2008 en 2021 was de rente historisch laag, geld was goedkoop. Amerikaanse bedrijven profiteerden van geld uit de Golfstaten, ze smeten met geld. Soms lukte het bedrijven om succesvol te worden, maar meestal niet. Uber lijkt nu eindelijk winstgevend te zijn geworden, voor nu dan.”
Politici in Europa en elders vallen te vaak voor de retoriek en de pr van de tech-bedrijven, ook het laatste jaar weer met alle aandacht voor ChatGTP en de verdere ontwikkeling van AI. Topman Sam Altman van Open AI, eigenaar van ChatGTP, reisde langs Europese hoofdsteden en ging op de foto met presidenten en premiers. „Maar het is een bedrijf dat zich economisch nog totaal niet bewezen heeft, het zou zomaar onderuit kunnen gaan als het niet genoeg geld ophaalt volgend jaar. Het is zelfs nu niet commercieel levensvatbaar, het heeft recent tien miljard geïnjecteerd gekregen van Microsoft. Geef mij tien miljard en ik kan ook een hoop dingen doen.”
:format(webp)/s3/static.nrc.nl/images/gn4/stripped/data53790738-1bde6e.jpg)
Diep ideologisch
Morozov is sceptisch over de technische mogelijkheden van AI, maar zijn belangrijkste kritiek ligt op een ander vlak. Stel, zegt hij, dat het werkt zoals OpenAI en andere bedrijven beloven dat het zal doen, wat gebeurt er dan? „Het zal de voortzetting of zelfs de versnelling van de neoliberale logica zijn, waar de samenleving al van doortrokken is. Het zal alleen maar meer verantwoordelijkheid bij het individu leggen, in plaats van dat we proberen geïnstitutionaliseerd problemen op te lossen; we worden allemaal schrijvers van korte opdrachtjes aan ChatGTP om zo onze eigen problemen op te lossen.”
Kritiek op technologie is volgens Morozov vaak apolitiek en vooral gericht op de moraliteit ervan. Dat is belangrijk, maar hij wil ook „ouderwetse ideologiekritiek” bedrijven: „Open AI is niet alleen een bundel algoritmes en large language models, het is ook een bundel investeerders en politici en grootheden als Bill Gates.” Dat is diep ideologisch, en dat is bepalender voor de politieke impact van AI dan de moraal die in de algoritmes vervat zit. „Ze zeggen: nee, wij vertegenwoordigen niet de belangen van Microsoft dat tien miljard in ons geïnvesteerd heeft, wij vertegenwoordigen de belangen van de mensheid in haar geheel, en daarom willen we die AI-utopie bouwen.” Prik door die ideologische vermomming heen, dringt Morozov aan. Markten met private actoren zijn niet de enige manier om problemen op te lossen, maatschappelijke interactie kan ook andere vormen aannemen. Technologie kán ons daarbij helpen, het project Cybersyn in Chili heeft dat op zijn minst laten zien.
Praat mee over dit onderwerp en stuur een brief!
Wilt u reageren op een artikel? Stuur via dit formulier een brief (maximaal 250 woorden) naar de opinieredactie van NRC.
