Techcriticus Jamie Susskind: ‘We moeten anders gaan denken over technologie. Politieker’

Als we niet oppassen, missen we de ernst van wat er gebeurt, zegt de Britse denker en advocaat Jamie Susskind. Het grootste probleem van dit digitale tijdperk is níét dat de grote technologiebedrijven lak hebben aan onze privacy. De echte dreiging voor ons, en onze democratieën, is breder. Namelijk: dat Google, Meta, Amazon en de andere grote techbedrijven een enorme politieke factor zijn geworden, terwijl ze nauwelijks ter verantwoording te roepen zijn.

Een van de grote politieke vragen die onze generatie moet oplossen, zegt Susskind in een videogesprek, is hoe we de ontzagwekkende macht van digitale technologie over ons leven onder controle kunnen krijgen. „Daar moeten we snel een antwoord op vinden.”

Hij geeft zelf een krachtige voorzet, inclusief praktische suggesties, in zijn vorig jaar verschenen boek The Digital Republic; On Freedom and Democracy in the 21st Century.

Susskind richt zijn pijlen niet in de eerste plaats op de techreuzen of op de topmannen die het daar voor het zeggen hebben. Hij spreekt over „ons gemeenschappelijke falen” om technologie in goede banen te leiden. „Veel te lang hebben we digitale technologieën bekeken vanuit de optiek: wat hebben we er als consument aan, of wat is de commerciële waarde ervan? Ik vind dat we er in politieke termen over moeten denken.”

Het nieuwe, veelbesproken computerprogramma ChatGPT kan met behulp van kunstmatige intelligentie (AI) complete teksten genereren. Is dat reden voor blijdschap of zorg?

„Allebei. Wat het voor onderwijs, kunst en creativiteit zal betekenen, laat ik aan anderen over. Mijn punt is: vroeger kon je er zeker van zijn dat je in politieke processen alleen te maken had met andere ménsen. De argumenten waren van mensen afkomstig. Nu gaan we een tijdperk in waarin technologie politieke betogen kan opstellen. Sneller, en soms beter, dan de gemiddelde mens dat kan. Dat vind ik nogal een wezenlijke verandering voor onze democratie.

„Dat dit soort systemen geen bewustzijn hebben, doet er niet toe. Het gaat om het effect dat ze hebben op het proces van overleg en besluitvorming.

„Het roept allerlei politieke en filosofische vragen op. Moeten we deze teksten net zo behandelen als teksten van menselijke auteurs? Wie is de rechthebbende? Hebben we regels nodig voor het gebruik ervan in het publieke domein? En moeten we ons zorgen maken dat zulke krachtige systemen in handen zijn van de machtigste bedrijven en regeringen?

„Ik zou iedereen aanraden niet alleen na te denken over deze technologie die net beschikbaar is gekomen, maar ook over waar we over vijf of tien jaar zijn. Het gaat allemaal zo snel, en we staan pas aan het begin. Straks hebben we het niet meer over door technologie geschreven regels op een pagina, maar over door AI gegenereerde gezichten en stemmen die overtuigend zijn. Ze kunnen er zelfs op worden toegesneden om speciaal aantrekkelijk te zijn voor de specifieke persoon die ernaar kijkt.

„Daarom zeg ik: het digitale is politiek. Softwareontwikkelaars zijn steeds meer ontwikkelaars van onze maatschappij. Software engineers worden social engineers, en daarmee politieke spelers.”

Wat betekent dat in de praktijk?

„Zij oefenen macht uit over ons leven. Ze reguleren de informatie die via digitale systemen over de wereld wordt verspreid. De algoritmes die ze schrijven, kunnen invloed hebben op het functioneren van de democratie en op kwesties van sociale rechtvaardigheid: op de toewijzing van woningen, de vaststelling van verzekeringspremies of het functioneren van ons strafrechtelijk systeem. Als je regels schrijft die miljoenen mensen moeten volgen, dan is dat politiek – ook al komt er geen parlement aan te pas.”

Is een zoekmachine ook politiek?

„Zeker. Selecteren en ordenen van de informatie die op de wereld beschikbaar is, en daarbij vertellen wat belangrijk is en wat niet, is extreem politiek. Ook als de bedrijven erachter daar zelf helemaal niet op uit zijn. Als je voor verkiezingen de naam van een politicus intikt, is het enorm belangrijk wat de eerste tien resultaten zijn.”

In zijn boek schrijft Susskind: „Wie voor de Amerikaanse presidentsverkiezingen van 2016 bij [zoekmachine] Yahoo intikte ‘Hillary Clinton is…’ kreeg als eerste twee suggesties te zien ‘…een leugenaar’ en ‘…een misdadiger’. Bij Bing was het ‘…een smerige leugenaar’ en ‘… een moordenaar’. En bij Google ‘…aan het winnen’ en ‘…geweldig’.

„Als je deze technologieën in handen laat van particuliere bedrijven, dan moet je niet gek opkijken als ze zo zijn ontwikkeld dat ze in strijd zijn met je politieke en morele waarden. Dat de algoritmes bijvoorbeeld zo zijn opgesteld dat ze vooral geld opleveren voor de eigenaar. Of zo dat ze sensationele en verdeeldheid zaaiende uitingen voorrang geven boven redelijke, op consensus gerichte berichten.”

Is meer regulering van de technologiesector het antwoord?

„Niet zonder meer. Op dit moment is de macht van de grote techbedrijven te ongecontroleerd. Maar we moeten ook oppassen niet te veel macht in handen te leggen van de overheid, die al machtig is.

„De vraag moet niet zijn ‘moeten er regels komen?’, maar ‘wie moet die regels schrijven?’ Nu laten we toe dat de techreuzen de regels grotendeels zélf schrijven. Kijk naar de sociale media: ze blokkeren, ze censureren, ze halen berichten naar voren of zorgen juist dat ze nauwelijks gezien worden.

„Dat kan goed of slecht uitpakken, maar feit is dat het uitoefening van macht is. En dus moeten we vragen welke controle daarop bestaat. En hoe je de resultaten van de digitale processen zo nodig kan aanvechten.

„Bij artsen, advocaten, bankiers en exploitanten van kerncentrales vertrouwen we er ook niet zomaar op dat ze de juiste beslissingen nemen. Zij moeten voldoen aan normen en regels, omdat we weten dat mensen, en de instellingen die ze oprichten, niet perfect zijn.

„Er zouden regels en standaarden moeten zijn voor bepaalde technologieën én voor de mensen die in de techwereld werken. Meer transparantie zou verplicht moeten zijn, zodat toezichthouders kunnen zien of regels worden nageleefd. En overheden zouden zich, bij de omgang met persoonlijke data bijvoorbeeld, in grote lijnen aan dezelfde regels moeten houden als bedrijven.

„Het toezicht hoeft niet door de overheid te gebeuren. Gespecialiseerde bedrijven zouden dat kunnen doen, zoals ook de jaarrekening van bedrijven niet door de overheid wordt gecontroleerd maar door accountantsbureaus.

„Je zou van digitale systemen bovendien kunnen eisen dat ze gecertificeerd zijn, zodat je ervan op aan kan dat ze aan bepaalde normen voldoen en je data er veilig zijn. Als je een gebouw binnenloopt, word je ook niet geacht zélf de kwaliteit van de architectuur te inspecteren. Je mag ervan uitgaan dat het veilig is en dat daarop is toegezien. Als je in een auto stapt, kan je er ook van op aan dat hij is goedgekeurd. Ik zie niet in waarom zo’n certificatie niet ook geregeld kan worden voor kunstmatige intelligentie of andere krachtige digitale technologieën.”

U pleit ook voor data-trusts – wat bedoelt u daarmee?

„Honderden keren per dag klikken we op knoppen dat we akkoord gaan met het gebruik van onze gegevens. We lezen de voorwaarden nauwelijks, en als we dat doen, begrijpen we ze niet. En zelfs als we ze zouden begrijpen, hebben we nog geen werkelijke keuze, geen mogelijkheid om erover te onderhandelen.

„Als je niet wil dat het platform je data gebruikt, kan je alleen besluiten er niet te komen. Dat kan dat platform niets schelen, want het heeft nog een miljard andere gebruikers. Er is een enorme machtsongelijkheid tussen jou en het bedrijf. Maar als je lid bent van een grote groep, wat ik een data-trust noem, kan die namens jou en een miljoen anderen onderhandelen over wat er met jullie gegevens gebeurt. Het idee is vergelijkbaar met hoe een vakbond functioneert.”

We moeten ons tegenover technologie meer als burgers opstellen, schrijft u.

„Daarmee bedoel ik allereerst dat we met een politieke blik gaan kijken en beter beseffen wat het gebruik van digitale technologie met zich meebrengt. Zoals we ons de afgelopen jaren ook meer bewust zijn geworden van wat ons energieverbruik betekent voor het klimaat. Vijftien jaar geleden was dat ook een probleem dat wel zo’n beetje bij iedereen bekend was, maar dat laag op de lijst van politieke prioriteiten stond.

„Daarnaast zouden we meer betrokken moeten zijn bij het maken van beleid. Zoals burgers in sommige landen worden opgeroepen bij een rechtszaak plaats te nemen in een jury, zo zou je ook mensen voor een paar dagen kunnen oproepen om mee te denken over kwesties in de techsector. Bijvoorbeeld over hoeveel persoonlijke gegevens instellingen die leningen verstrekken mogen opvragen over hun klanten. Over wat voor soort informatie sociale media zouden moeten blokkeren. Of een voorgenomen fusie van twee platformen een onacceptabele machtsconcentratie zou zijn.

„Je zou dat als burgerplicht kunnen zien. Je zou er een aantal beslissingen mee uit handen nemen van de politieke elites, of hun er ten minste aanbevelingen mee kunnen doen.”

Het probleem is niet Elon Musk. Het probleem is dat hij macht heeft zonder verantwoording te hoeven afleggen

De Europese Unie heeft de techreuzen al regels opgelegd, onder meer om concurrentie te bevorderen en privacy te beschermen. Is dat de goede richting?

„In grote lijnen wel. De EU loopt hiermee voorop, en dat vind ik dapper.”

Waarom dapper?

„Het is nieuw terrein. Machtige bedrijven, en ook regeringen, hebben tegen de Commissie en het Europees Parlement gezegd: doe dit niet, dit zal de innovatie schaden. Maar de EU heeft, ondanks de jarenlange lobby, grotendeels voet bij stuk gehouden. Innovatie hoeft ook helemaal niet te lijden onder regulering, het kan juist leiden tot meer concurrentie en daarmee tot vernieuwingen.

„In de Verenigde Staten en het Verenigd Koninkrijk groeit de interesse voor dit soort ideeën ook. Maar de politieke urgentie wordt nog onvoldoende gevoeld. Mijn bedenking tegen de Europese aanpak is vooral dat de regels zo complex zijn. Je vraagt je af: kan dit in de praktijk werken?”

Sommige Amerikaanse politici pleiten ervoor die reusachtige techbedrijven op te splitsen.

„Voor je daaraan begint, zou ik me eerst afvragen: kunnen we die bedrijven transparanter maken? Kunnen we zorgen dat ze zich schikken naar regels en standaarden, zoals we ook nutsbedrijven reguleren? Kunnen we eisen dat de mensen die er werken bepaalde professionele kwalificaties hebben? Dat gebruikers ergens in beroep kunnen gaan als ze zich slecht behandeld voelen?”

Meta, moederbedrijf van onder meer Facebook en Instagram, heeft een onafhankelijke raad van beroep ingesteld, die het bedrijf kan terugfluiten. Verdient dat navolging?

„Niet echt. Die zogeheten Oversight Board is prima, heeft een onafhankelijk oordeel en zorgt echt voor verbeteringen bij Facebook en Instagram. Maar het probleem is dat dit orgaan alleen bestaat bij de gratie van Meta. Als er morgen een nieuwe topman komt, kan het weer opgedoekt worden. Wat we nodig hebben, is een stabiele en systematische manier om digitale technologieën in toom te houden. Zodat je niet afhankelijk bent van de goodwill van een bedrijf of zijn topman.

„Zo kijk ik ook naar de ophef rond Elon Musk sinds hij de baas is van Twitter. Het probleem is niet Elon Musk. Het probleem is dat hij macht heeft zonder verantwoording te hoeven afleggen. Dat we overgeleverd zijn aan de wijsheid, of het ontbreken daarvan, van wie toevallig rijk genoeg is om zo’n platform te kopen.”