Google lanceert AI-chatbot in EU. Ethisch adviseur: ‘Ik mis de nuance als het gaat over het risico van AI’

Ethisch adviseur Ben Zevenbergen moet ervoor zorgen dat wat Googles technici ontwikkelen in lijn is met de AI-principes van het bedrijf.

Foto Roger Cremers

Interview

Ben Zevenbergen, ethisch adviseur Google Vanaf deze donderdag is Google’s chatbot Bard ook beschikbaar in Nederland en andere EU-landen. Ben Zevenbergen is sinds 2020 als ethisch adviseur betrokken bij alle belangrijke productlanceringen van het bedrijf. „Hele disciplines kunnen opnieuw uitgevonden worden door artificiële intelligentie.”

Het huidige tijdsgewricht is „zo’n moment waar iedereen bij wil zijn”, zegt Ben Zevenbergen, ethisch adviseur bij Google. En dus schoven Googles oprichters Larry Page en Sergey Brin – normaal alleen nog op de achtergrond actief bij Google – recent aan bij de belangrijke vergaderingen over Googles AI-strategie. „Hele disciplines kunnen opnieuw uitgevonden worden door artificiële intelligentie”, zegt Zevenbergen, tijdens een gesprek op het kantoor van Google in Amsterdam. „Het is zo’n interessant moment dat iedereen mee wil praten.”

Zevenbergen is sinds 2020 in zijn rol als adviseur betrokken bij alle belangrijke productlanceringen van het Amerikaanse techbedrijf. Daarbij is hij verantwoordelijk voor „het tegengeluid”, vertelt Zevenbergen. Hij moet ervoor zorgen dat wat Googles technici ontwikkelen ook in lijn is met de AI-principes die het bedrijf heeft opgesteld. Daarin zegt Google onder meer dat al zijn AI-producten „ten goede moeten komen aan de samenleving” en niet mogen leiden tot vooringenomenheid of privacyschendingen.

Zevenbergen was een van de auteurs van het LaMDA-paper, dat in februari vorig jaar verscheen en waarin Google voor het eerst zijn taalmodel presenteerde. Deze technologie vormt de basis onder de eerste versie van Googles chatbot Bard, die in maart in het Verenigd Koninkrijk en de Verenigde Staten werd uitgebracht. Vanaf deze donderdag is de chatbot ook beschikbaar in Nederland en andere EU-landen.

De Europese lancering van Bard werd uitgesteld na vragen van de Ierse toezichthouder Data Protection Commission (DPC), die toeziet op de handhaving van Europese privacyregels bij grote technologieconcerns. De DPC vond dat Google „onvoldoende documentatie” had aangeleverd die de privacy van gebruikers moest garanderen. Inmiddels heeft Google aan de voorwaarden van de EU voldaan. Gebruikers krijgen onder meer de mogelijkheid hun activiteit in Bard te bekijken of te verwijderen uit hun account.

‘Interne paniek’

Bard is het resultaat van jaren onderzoek en experimenteren in AI-technologie. Daarbij had Google lang een onbedreigde positie. Zijn onderzoekers ontwikkelden in 2017 de eerste transformers. Deze superslimme neurale netwerken zijn cruciaal voor spraakcomputers en chatbots. Computers waren tot dan vooral goed in letterlijk vertalen van teksten van de ene naar de andere taal. Met transformers konden computers ook de context van zinnen begrijpen en werden ze in staat gesprekken te voeren.

Het was uiteindelijk niet Google, maar OpenAI uit San Francisco dat in november vorig jaar met ChatGPT de eerste van een nieuwe generatie AI-chatbots uitbracht. ChatGPT – gebaseerd op de transformer-technologie van Google – kon als eerste toneelstukken schrijven, gedichten maken, teksten voor websites produceren en programmeren.

ChatGPT ontketende een wereldwijde hype. Het onderliggende neurale netwerk GPT-4 wordt nu door talloze bedrijven gebruikt om taken te automatiseren. Denk aan teksten schrijven of automatisch beantwoorden van e-mails, digitale assistenten of scannen en beoordelen van sollicitatiebrieven. De hype rond ChatGPT dwong andere techbedrijven tot herzien of versnellen van hun AI-strategie, om niet achterop te raken in de race om de nieuwste technologie.

Bij Google leidde de komst van ChatGPT tot interne paniek, al sprak Google-topman Sundar Pichai liever van „een gevoel van urgentie”. Teams binnen Google werden door de top aangespoord op te schieten met de ontwikkeling van Bard. Toen Bard in februari werd gepresenteerd, maakte de chatbot een pijnlijke feitelijke fout tijdens de demonstratie. Bard stelde in antwoord op een vraag ten onrechte dat de eerste foto van een planeet buiten ons zonnestelsel gemaakt werd door de James Webb-telescoop. Pichai zei later in een podcast van The New York Times dat de eerste versie van Bard voelde alsof Google „een opgevoerde Civic in een race stopte met krachtigere auto’s”. De nieuwste versie van Bard is aanmerkelijk beter, blijkt uit de eerste tests van Amerikaanse journalisten. Bard staat in directe verbinding met het internet en heeft zo de beschikking over de meest actuele informatie, terwijl ChatGPT geen data heeft van gebeurtenissen na 2021.

Beide programma’s leiden desondanks aan wat wetenschappers ‘hallucinaties’ noemen: chatbots die feiten verzinnen. Het is een van de moeilijkst oplosbare problemen bij chatbots, waarbij Google het voordeel heeft dat het via de zoekmachine permanent het complete internet tot zijn beschikking heeft. „Wij kunnen redelijk efficiënt testen of antwoorden zijn gebaseerd op bestaande bronnen en of ze inderdaad kloppen”, zegt Zevenbergen.

Google erkent dat Bard „soms onjuiste antwoorden geeft” of „beledigende uitspraken” kan doen. Het probeert een bepaalde vooringenomenheid (bias) te voorkomen door gebruikers meer perspectieven te bieden. En hoe meer Bard wordt gebruikt, hoe beter hij gaat worden in zijn antwoorden, zo is het idee.

Volgens Zevenbergen had Google Bard „twee of drie jaar geleden” al op de markt kunnen brengen, maar is de technologie pas nu betrouwbaar genoeg om er live mee te experimenteren. „We denken hard na over de ethische principes achter het soort systemen dat we de wereld in willen brengen. En snelheid is daar niet eentje van”, zegt Zevenbergen. „Ik zie dit niet als een race om als eerste een technisch snufje in de wereld te brengen. Google was ook niet de eerste zoekmachine, maar uiteindelijk wel de beste.”

Lees meer over hoe Europa AI wil reguleren: ‘Europarlement wil strenge regels voor AI – ook voor ChatGPT’

Nepnieuws en cybercriminaliteit

Toch klinkt er – ook binnen Google – bezorgdheid over de snelheid waarmee AI zich ontwikkelt. De angst is dat kwaadwillenden AI-systemen inzetten voor nepnieuws en cybercriminaliteit. Er is het risico dat de opkomst van AI leidt tot het verdwijnen van banen. De creatieve industrie maakt zich op voor een reeks rechtszaken, omdat AI-bedrijven auteursrecht schenden door teksten en beelden op het internet te gebruiken om hun modellen te trainen.

Via verschillende petities riepen prominente AI-wetenschappers de afgelopen maanden onder meer op tot een ‘ontwikkelpauze’ van de technologie. Voordat bedrijven met allerlei AI-systemen op de markt komen, moeten overheden volgens de ondertekenaars eerst regels opstellen voor hoe de samenleving AI wil inzetten.

Alle topbestuurders van techbedrijven hebben zich inmiddels uitgesproken voor meer overheidsregulering. Topbestuurders van OpenAI en Google trokken de afgelopen maanden naar Brussel om te tonen dat ze graag willen meedenken over de AI Act, Europa’s grote AI-wet waar op dit moment invulling aan wordt gegeven. De wet gaat bepalen hoe techbedrijven AI in Europa mogen inzetten.

De grote vraag: in hoeverre kan een bedrijf als Google zelf de verantwoordelijkheid dragen verantwoord om te springen met een technologie die in potentie een gigantische impact kan hebben op de mensheid? De helft van de AI-wetenschappers schat de kans dat AI leidt tot een „extreem slechte uitkomst” voor de mensheid op minimaal 10 procent, bleek vorig jaar uit een peiling. In mei vertrok de prominente AI-wetenschapper Geoffrey Hinton bij Google om zich over de gevaren van AI uit te spreken. Hij stelde dat AI nu vooral „geestdodende taken” van mensen overneemt, „maar straks misschien wel veel meer”.

Zevenbergen stelt dat hij „de nuance mist” als het gaat om dergelijke petities met begrippen als ‘existentieel risico’. „Natuurlijk, dit kan een risico vormen voor de mensheid. Dat het gebeurt is zeer onwaarschijnlijk, maar het is een scenario waar we rekening mee houden”, zegt hij. „Wij zitten nu in de situatie dat we dit alles in goede banen kunnen leiden. Bouwen aan scenario’s die wel wenselijk zijn.”