Toen Melanie Mitchell in 1990 promoveerde als computerwetenschapper, kreeg ze het advies om in sollicitatiebrieven vooral niet de term kunstmatige intelligentie te laten vallen. De wereld was teleurgesteld in deze technologie, die niet aan de verwachtingen had voldaan. Anno 2024 is de situatie 180 graden gedraaid. „Wie ik ook ontmoet: ze willen mijn mening over AI horen. Als ik mijn haar laat knippen bijvoorbeeld, en de kapper vraagt wat ik voor werk doe. Iedereen heeft wel van ChatGPT gehoord en heeft nu een mening over AI.”
Daarbij spelen nieuwsmedia een grote rol, zegt Mitchell, die destijds stug doorging met AI-onderzoek en uiteindelijk hoogleraar werd. „Elke keer dat er een grote bewering over AI gedaan wordt, springen de media er bovenop en vergroten ze het uit. Twee jaar geleden was er een ontwikkelaar bij Google die na een gesprek met een van Googles chatbots besloot dat het systeem bewustzijn had. De media gingen los, terwijl het maar één Google-medewerker was die zijn mening gaf. Een mening waar praktisch elke AI-expert het mee oneens was.”
Zo ook Mitchell, die er in een reactie bij CNN fijntjes op wees dat de wetenschap er nog niet eens uit is wat bewustzijn is. Niet lang daarna besloot ze het proactiever te gaan opnemen tegen beweringen over AI. Ze startte op het platform Substack een nieuwsbrief annex weblog, die inmiddels ruim 18.000 abonnees heeft. Haar eerste casus was een reeks nieuwskoppen over hoe de chatbot ChatGPT van ontwikkelaar OpenAI zou zijn ‘geslaagd’ voor onder andere artsexamens. Experimenten die ook in Nederland het nieuws haalden. Mitchell concludeerde dat in alle gevallen sprake was van overdrijving (zie inzet).
Roeping
Melanie Mitchell vertaalt AI-ontwikkelingen al langer naar een algemeen publiek. In haar meest recente boek Artificial Intelligence: A guide for thinking humans legt ze AI verrassend eenvoudig uit. Zo veegt ze de zweem van magie en interessantdoenerij rond de technologie weg: AI is al fascinerend genoeg van zichzelf. Hoewel het boek uit 2019 stamt, riep The New York Times het begin dit jaar uit tot een van de vijf beste boeken over AI.
Mitchell ervaarde kunstmatige intelligentie als haar roeping toen ze als jonge leraar wiskunde in de jaren tachtig het boek Gödel, Escher, Bach van de beroemde computerwetenschapper Douglas Hofstadter las. Ze ritselde bij Hofstadter – die ook veel AI-techneuten inspireerde die nu bij Google of Meta werken – een promotieplek. In 2014 ontstond er een meningsverschil tussen Mitchell en haar toenmalige leermeester. Na het horen van een door AI gecreëerd muziekstuk was Hofstadter bang geworden dat AI de mens spoedig zou gaan evenaren. Mitchell geloofde daar nooit in, maar voelt zich nu gedwongen haar standpunt te heroverwegen.
Haar boek was haar manier om haar gedachten te ordenen. En dat sterkte haar juist. „Ik heb sindsdien nog meer dan eerst het idee dat we nog altijd ver weg zijn van kunstmatige intelligentie op menselijk niveau. En Hofstadter denkt nog steeds dat we er wel eens dichtbij zouden kunnen zijn. We mailen er nog altijd over heen en weer. En geen van beiden overtuigt de ander ooit, haha.”
Is het niet verwarrend voor het publiek dat AI-deskundigen het vaak met elkaar oneens zijn? Mitchell erkent dat, maar ziet het ook als onvermijdelijk. „We zitten in een fase waarin we nog niet de antwoorden op elke vraag hebben.”
Wetenschappers
Ondertussen kijken journalisten juist naar de wetenschap voor duidelijkheid. Lekker concreet is dan de statistiek dat de helft van de AI-onderzoekers de kans dat AI de mensheid zal doen uitsterven op ongeveer 10 procent schat. Mitchell nam het wijdverspreide verhaal onder de loep en stelde vast dat het achterliggende onderzoek verkeerd is begrepen (zie inzet).
Dat laatste is een patroon, vertelt Mitchell. Journalisten nemen of krijgen vaak niet de tijd om de wetenschappelijke papers achter ogenschijnlijk spannende vaststellingen te lezen. Ze proeft de haast in hun mails. „Kan ik u bevragen over dit onderwerp? Mijn deadline is vanmiddag. Of ze sturen me een lange paper en vragen: Kunt u uiterlijk morgenochtend commentaar geven? Nou, nee, dat kan ik niet.”
„Journalisten willen geen slappe citaten, van: In zekere zin, maar het hangt af van je definitie – je weet wel, al dat soort gezwam. Ze willen liever scherpe, overtuigde citaten. Dat levert een beter verhaal op, maar is niet representatief.”
Nu wordt het journalisten ook niet makkelijk gemaakt. „Bedrijven als Google, Meta en OpenAI publiceren resultaten van hun onderzoeken als concept-artikelen die geen beoordeling door vakgenoten hebben ondergaan, maar wel worden overgenomen als feiten. Terwijl het meer een soort persberichten zijn, die er uitzien als wetenschappelijke papers. Het is absoluut moeilijk voor de media om uit te vogelen wat betrouwbaar is.”
Het ging vorig jaar mis toen media berichtten dat GPT4, ook van OpenAI, op eigen houtje een beveiligingstest had omzeild door deze tegen betaling door een freelancer te laten oplossen. „The New York Times berichtte daarover, The New Yorker, andere respectabele media. En het was allemaal gebaseerd op een soort samenvatting, geschreven door de mensen van OpenAI.” In werkelijkheid deed de bot weinig uit eigen beweging: de onderzoekers instrueerden hem vrij precies wat hij moest doen.
Belangen
Onbedoeld dienen journalisten zo de AI-industrie, waar indrukwekkende verhalen de weg plaveien naar grote winsten. AI-wetenschappers hoeven zeker niet te bedelen om subsidie. Maar de verwachtingen kunnen zich snel tegen je keren, weet Mitchell. Wanneer de resultaten tegenvallen, kan de geldstroom opdrogen. „We hebben dat door de hele geschiedenis van AI-onderzoek gezien. Door te veel optimisme of overdreven beloftes over waartoe deze systemen in staat zullen zijn, ontstaan AI-winters.”
Het jaar 1990, toen Mitchell haar anti-AI-advies kreeg, viel in zo’n AI-winter. Op dit moment is het weer lente. Volgens Mitchell gaat het om een cyclus met fases van vijf à tien jaar – wat zou betekenen dat de bubbel binnenkort weer barst.
Het scheppen van te hoge verwachtingen komt ook in andere wetenschappelijke disciplines voor, erkent ze. „Maar omdat het publiek zo geïnteresseerd is in AI, omdat het zo’n cultureel fenomeen is geworden, heeft het een veel grotere impact wanneer je die gigantische beloftes doet.”
Algemene intelligentie
Vaak wordt daarbij op één specifieke mijlpaal gefocust. „In de jaren vijftig en zestig klonk het: wanneer een computer kan schaken als een grootmeester, is dat een teken dat we artificial general intelligence (‘algehele’ kunstmatige intelligentie, red.) hebben. Dan is die schaakcomputer er, en dan blijkt dat toch niet zo.
Of neem ChatGPT, dat in een gesprek soms moeilijk van een mens te onderscheiden is. „Dat vereist toch zeker algehele intelligentie, was het idee.” Inmiddels weten we beter: ChatGPT kan goed praten, maar kan ook heel veel niet wat mensen wél kunnen. „Het blijkt extreem complex om menselijke intelligentie na te bootsen, complexer dan we lang dachten.”
Bespiegelingen die snel vergeten zijn wanneer er spannend nieuws rondgaat. Zoals recent de bewering dat chatbots eindelijk zouden slagen voor de Turingtest, waarbij een machine in een gesprek niet meer kan worden onderscheiden van een mens. Mitchell meent dat de test meestal niet wordt uitgevoerd zoals computerpionier Alan Turing hem bedoelde. Ze heeft al een factcheck in de maak. Ze weet dat er zoals altijd mensen zullen zijn die haar te sceptisch vinden. Maar, verzekert ze: „Scepsis vind ik mijn wetenschappelijke plicht.
„En ik zie mezelf niet alléén als scepticus, want bepaalde dingen vind ik heel interessant en opwindend. Ik vind het vreemd om het AI-veld in twee kampen te verdelen, dat van de AI-optimisten en dat van de AI-sceptici. We moeten allemáál een zekere scepsis hebben, want er gaan heel extreme beweringen rond, en elke keer moeten we de zaken heel precies onderzoeken.”
