N.B. Het kan zijn dat elementen ontbreken aan deze printversie.
:format(webp)/s3/static.nrc.nl/images/gn4/stripped/data97235923-798f84.jpg)
Foto Peter Morgan / Reuters
Willekeurig welke bioloog kan je verzekeren dat we nog geen flauw idee hebben over de grondslag van de intelligentie van de cavia. Toch is de kans groot dat diezelfde persoon zonder meer de uitdrukking ‘kunstmatige intelligentie’ (artificial intelligence, AI) gebruikt voor een pak software. Zo stevig heeft die woordcombinatie zich al in het taalgebruik gevestigd.
De AI zoals die wordt ontwikkeld door Big Tech is een brutale manier om klanten uit te buiten. Dat heeft AI dan gemeen met de meeste neoliberale bedrijfsmodellen (‘Wij de winst en jullie de gebakken peren’), maar het betekent niet dat AI intelligent is. De term AI is een ‘frame’, ongeveer zoals een Amerikaanse burger die het bezit van een volautomatisch machinegeweer ‘zelfbescherming’ noemt.
Hoe effectief dat frame werkt blijkt er onder andere uit dat zelfs mensen met een IQ van boven de 130 – die dus wel iets weten van intelligentie – schrijven dat het algoritme een besluit neemt. Maar daar is geen sprake van. Een besluit berust op overweging, en AI overweegt niets: het speurt in bergen gegevens naar patronen. Je kunt zo’n patroon gebruiken voor verdere studie, en op grond daarvan een besluit nemen of advies geven, maar dat is iets anders dan een zelfstandige beslissing van een algoritme.
Shakespeare
Patronen opmerken is de grootste moeilijkheid bij het programmeren van AI. Want wat is een patroon? Bij getallen is dat vrij eenvoudig, maar hoe meet je verschil en overeenkomst tussen sterrenstelsels? Muziekklanken? Gezichten? Wat is de afstand tussen twee woorden? Soms kan AI een patroon ‘ontdekken’, waarna de mens ermee verder kan. Maar de gelijkenis in ‘Shall I compare thee to a Summers day?’ is van Shakespeare en niet van een stuk software. De overeenkomst tussen het vallen van een appel en de beweging van de maan zou geen AI-algoritme ooit zijn opgevallen, maar Newton wel.
Met een echte intelligentie kun je in discussie. Met een algoritme kan dat niet: daaraan moet je je onderwerpen of het zijn plaats wijzen
Het gebruik van AI is als het kijken naar een sterrenbeeld. Dat is een toevallig patroon zonder verdere inhoud. Door een patroon op te merken weten we verder niets: of het toeval is, of ontstond door een onderliggend mechanisme. Zonder inzicht in het netwerk van oorzaak en gevolg zijn we geen steek verder. Want het gaat om begrip; dat is kwalitatief anders dan intelligentie, en een nog groter mysterie. Begrip berust op het verzinnen van mogelijke oorzaken, en niet alleen op het waarnemen van verschijnselen. Dus een hypothese, een verondersteld antwoord op de vraag: Wat zit daar achter? Een natuurkundige hypothese is een schepping, net als een gedicht of een ander kunstwerk.
Wolkjes
Er wordt vaak vol ontzag en bewondering gesproken over het feit dat AI zo goed is in schaken, Go, Rubiks Kubus en dergelijke. Maar dat zijn spellen met een piepklein aantal dwingende en onveranderlijke regels, dus vette buit voor een algoritme op een supercomputer.
De recente hype over het taalgebruik van chatbots is net zo bizar als dat ontzag. Taal is aanzienlijk ingewikkelder dan schaken, maar is toch gebonden aan de regels van grammatica, woordenschat en gewoonte. Praktische, dagelijkse taal is elementaire grammatica plus een wolk van woorden die met een bepaald onderwerp samenhangen. Je zult het woord ‘vanillevla’ niet aantreffen in een stuk over neurofysiologie, net zomin als je ‘defibrillator’ tegenkomt in een kookboek. Zo’n wolk is dus klein: een uitgebreid woordenboek bevat ruwweg 50.000 woorden, maar daarvan zijn er slechts duizend ruim genoeg voor een opstel over biljarten, een andere duizend voor een stuk over tatoeages, enzovoort.
:format(webp)/s3/static.nrc.nl/bvhw/files/2023/02/nw2502zat-weteinstein-web-2.jpg)
Lees ook: De volgende Einstein kan een computer zijn, maar hoe lang duurt dat nog?
Een chatbot die is ‘getraind’ op een voldoende grote database brengt die wolkjes rap in kaart, alsook de meest waarschijnlijke volgorde of correlatie van de erin voorkomende woorden. Koppel dat aan de grammatica, en de resulterende tekst lijkt al snel ‘natuurlijk’. Dat is al bekend sinds 1966, toen Joseph Weizenbaum, professor aan de Massachusetts Institute of Technology, zijn programma ELIZA demonstreerde.
Dat AI geen intelligentie is, blijkt ook uit het feit dat er met het systeem geen communicatie mogelijk is. Met een echte intelligentie kun je in discussie, zelfs (tot op zekere hoogte) als het een cavia betreft. Met een algoritme kan dat niet: daaraan moet je je onderwerpen of het zijn plaats wijzen.
Koekje van eigen deeg
Een intelligentie die ongeveer het niveau van een mens heeft kan iets uitleggen zodat die mens het kan begrijpen, bevragen en eventueel aanvaarden. Als AI iets oplevert, is meestal niet te achterhalen hoe die uitkomst is verkregen. De betrouwbaarheid van dat resultaat is dus nauwelijks te bepalen. Strikt genomen weet je niet eens wat het resultaat eigenlijk is, ook al omdat een opdracht zelden hetzelfde resultaat oplevert bij herhaling. Wat moet je met een systeem dat op dezelfde vraag, over dezelfde gegevens, steeds een ander antwoord geeft?
Omdat er verder geen moreel of analytisch besef in zit, is AI bovendien nog beperkter dan wijzelf
Om echt iets te begrijpen is AI nutteloos en soms zelfs tegenproductief, maar het kan wel bijzonder gevaarlijk zijn, getuige de verwoestende invloed van AI op sociale media (er zijn zeer strikte wetten en regels voor het omgaan met explosieven, maar niet voor AI-algoritmen). Ironisch genoeg is dat een koekje van eigen deeg, want die AI is ‘getraind’ met onze vooroordelen, blinde vlekken en talloze andere tekortkomingen. Omdat er verder geen moreel of analytisch besef in zit, is AI bovendien nog beperkter dan wijzelf.
De opschepperij over ‘intelligentie’ in de term AI is belachelijk, maar eigenlijk niet heel erg. Het werkelijk funeste gevolg van dat frame is, dat men de blik vrijwel volledig richt op technische zaken zoals computers en programmeren, en op existentiële angst over de plaats van de mens. Daardoor wordt de aandacht gladjes afgewend van waar die zich eigenlijk op zou moeten richten. De chatbot is nauwelijks gevaarlijk, maar de baas ervan des te meer: zoals Big Tech, Poetins huurlingen, of de minions van de Communistische Partij van China.
„Waar het om draait is: wie is de baas – dat is alles.” Dat zei Humpty Dumpty in Alice in Wonderland, een product van zoveel intelligentie dat het nooit door een chatbot zal worden geschreven, al zou het algoritme draaien op ’s werelds snelste supercomputer.
