N.B. Het kan zijn dat elementen ontbreken aan deze printversie.
Kunstmatige intelligentie Hebben we de ontwikkeling van kunstmatige intelligentie nog wel onder controle? AI-pionier Geoffrey Hinton gaat weg bij Google om vrijuit over zijn zorgen te kunnen spreken.
:format(webp)/s3/static.nrc.nl/images/gn4/stripped/data99976916-c27bb5.jpg)
Foto Masahiro Sugimoto / The Yomiuri Shimbun
Zijn onderzoek naar neurale netwerken vormde de basis voor de huidige revolutie in kunstmatige intelligentie (AI), maar nu vraagt Geoffrey Hinton zich af of hij geen monster heeft helpen creëren. De 75-jarige Brits-Canadese computerwetenschapper heeft daarom ontslag genomen bij Google, vertelde hij maandag in The New York Times. Dat stelt hem in gelegenheid om vrijuit te spreken over de risico’s van AI.
Volgens Hinton is tussen zijn voormalige werkgever en onder meer Microsoft een zo hevige concurrentiestrijd losgebarsten bij de ontwikkeling van diensten op basis van kunstmatige intelligentie, dat de bedrijven de ethische vraagstukken en gevaren rond AI uit het oog dreigen te verliezen. Hij is bang dat internet overspoeld zal worden met nepfoto’s, nepvideo’s en nepnieuws, en dat mensen „niet meer in staat zullen zijn om te weten wat waar is.” Ook vreest hij de gevolgen voor de arbeidsmarkt als AI-technologie verder wordt ontwikkeld: „Nu neemt het alleen geestdodende taken van ons over. Maar straks misschien wel veel meer.”
Hinton, die wel de ‘Godfather van AI’ wordt genoemd, werkte jarenlang aan de Universiteit van Toronto aan zijn onderzoeken naar neurale netwerken, in een tijd dat weinig wetenschappers heil zagen in die benadering van kunstmatige intelligentie. Veel vakgenoten probeerden computers logica bij te brengen, maar Hinton liet zijn systemen een grote hoeveelheid gegevens analyseren om er zo zelf patronen in te ontdekken – het zogeheten deep learning.
Eerder deed hij onderzoek aan de Carnegie Mellon Universiteit in Pennsylvania, maar hij vertrok in de jaren tachtig van de vorige eeuw naar Canada omdat hij niet afhankelijk wilde zijn van financiering door het Pentagon, destijds de grootste geldschieter in zijn vakgebied. In 2018 werd hij voor zijn onderzoek naar kunstmatige intelligentie met twee vakgenoten geëerd met de Turing Prize, die wel beschouwd wordt als de Nobelprijs voor computerwetenschappers.
Hinton kwam, samen met twee van zijn studenten, tien jaar geleden bij Google in dienst, toen dat voor 44 miljoen dollar hun deep learning-startup DNNresearch inlijfde. Google gebruikte de technologie bijvoorbeeld om fotocollecties doorzoekbaar te maken.
Doorbraak bij het grote publiek
Sindsdien is de technologie sterk vooruit gegaan. Met name de lancering van ChatGPT, een chatbot van het bedrijf OpenAI – waarvan Hintons oud-student Ilya Sutskever medeoprichter en wetenschappelijk directeur is – zorgde vorig jaar voor een doorbraak van kunstmatige intelligentie bij het grote publiek. ChatGPT is een chatbot waaraan gebruikers in natuurlijke taal vragen kunnen stellen of opdrachten kunnen geven. De antwoorden zijn gebaseerd op analyse van een grote hoeveelheid van internet afkomstige teksten, waarmee het model is getraind.
:format(webp)/s3/static.nrc.nl/images/gn4/stripped/data95997490-918f92.jpg)
Lees ook Microsoft wil met de miljardeninvestering in ChatGPT aan AI-imperium bouwen
Microsoft, dat in januari 10 miljard dollar in OpenAI stak, rustte zijn zoekmachine Bing uit met een op ChatGPT gebaseerde chatbot. Daarmee zou Bing, dat tot dusverre een marginale rol speelde, een bedreiging kunnen vormen voor concurrent en marktleider Google. In april meldde The New York Times dat Samsung, na Apple de grootste smartphonefabrikant ter wereld, zou overwegen Google op zijn toestellen als standaardzoekmachine door Bing te vervangen.
In maart lanceerde Google zijn eigen AI-chatbot, Bard, die een stroeve start kende: toen Bard in een promotievideo abusievelijk beweerde dat de Hubbletelescoop de eerste was die foto’s maakte van een planeet buiten ons zonnestelsel (dat deed de Europese Very Large Telescope in 2004), verloor het bedrijf op één dag 9 procent van zijn beurswaarde.
De mensheid wegvagen
Vorige maand schreef Bloomberg op basis van interne documenten en gesprekken met achttien huidige en voormalige medewerkers van Google dat het bedrijf kort daarvoor aan het eigen personeel had gevraagd om Bard te testen. Een medewerker constateerde dat de chatbot „een pathologische leugenaar”, was een ander noemde Bard „tenenkrommend”. De chatbot zou soms levensgevaarlijke adviezen geven. „Bard is slechter dan waardeloos: alsjeblieft niet lanceren”, schreef waarschuwde iemand in een intern bericht.
Volgens critici die Bloomberg sprak, had Google de teams die binnen het bedrijf de veiligheid en de ethische gevolgen van kunstmatige intelligentie moeten bewaken, na de succesvolle lancering van ChatGPT opgedragen om de ontwikkeling van AI-producten „niet in de weg te zitten”.
:format(webp)/s3/static.nrc.nl/images/gn4/stripped/data99501772-d179a3.jpg)
Lees ook De Tweede Kamer werd woensdag bijgepraat door experts over ChatGPT. ‘Het is net magie’
Hinton zei tegen de BBC dat zijn vertrek niet bedoeld is als kritiek op Google. Toch vreest hij dat de concurrentie tussen Google en Microsoft leidt tot een wereldwijde wedloop die alleen met wereldwijde regulering gestuit kan worden. Hij maakt zich weinig illusies over de controle op zulke afspraken: anders dan nucleaire wapens is kunstmatige intelligentie eenvoudig in het geniep te ontwikkelen.
Hij voegt zich met zijn kritiek in een groeiend gezelschap. In maart publiceerden zo’n duizend techondernemers en onderzoekers een open brief, waarin ze opriepen tot een moratorium van zes maanden op de verdere ontwikkeling van AI-technologie, dat desnoods door de overheid moet worden afgedwongen. Die tijd zou moeten worden benut om na te denken over gezamenlijke veiligheidsprotocollen.
Onder de ondertekenaars waren onder meer Elon Musk (die niet veel later overigens een eigen AI-initiatief aankondigde), Apple-oprichter Steve Wozniak en schrijver Yuval Harari. Die laatste waarschuwde vorige week in een veelbesproken bijdrage in The Economist dat we een „vreemde intelligentie hebben ontdekt, hier op aarde”. „We weten er nog niet veel over, behalve dat het misschien onze beschaving zal vernietigen.”
Ook Hinton noemde het gevaar dat AI „de mensheid zal wegvagen” in een interview met nieuwszender CBS in maart al „niet ondenkbaar”. Hij maakt zich bijvoorbeeld zorgen dat toekomstige AI-systemen mogelijk zichzelf zullen kunnen programmeren, wat autonoom opererende wapensystemen mogelijk zou maken.
Inmiddels heeft Hinton dus wel enige spijt van zijn levenswerk. „Ik troost mezelf met het gebruikelijke excuus: als ik het niet gedaan had, was het een ander geweest.”
