Met 350 mensen probeert Microsoft de leugens uit ChatGPT en Bing Chat te slopen

Interview | Brad Smith | vicevoorzitter Microsoft Microsoft belandde dankzij de strategische samenwerking met OpenAI en ChatGPT in één klap in de eredivisie van de kunstmatige intelligentie. En daarmee ook midden in de discussie over de gevaren van AI.

Illustratie Tomas Schtas

Zet de timer aan en Brad Smith geeft, zonder spiekbriefje, een lezing van exact tien minuten over de kansen en risico’s van kunstmatige intelligentie, inclusief historische verwijzingen. Zijn verhaal is afgerond zodra de teller op nul seconden staat.

Het is een kwestie van oefenen, legt hij uit. „Geef me een klok en ik kom perfect uit. Als je het maar genoeg doet, leer je het vanzelf.”

Als spreker in het openbaar heeft de 64-jarige Smith zijn kilometers gemaakt. Hij begon in 1993 als jurist bij Microsoft en verdedigde de softwaremaker daarna in de grote mededingingszaken in Europa en in de VS. Smith is nu de nummer twee van het Microsoft-bestuur, president en vicevoorzitter naast topman Satya Nadella.

Vorige week was Brad Smith in Nederland om een – perfect getimed – praatje te houden over de nieuwe koers van het softwarebedrijf. Microsoft ging vier jaar geleden een nauwe samenwerking aan met OpenAI, de ontwikkelaar van ChatGPT. Net zoals mensen een vaardigheid aanleren door veel te oefenen, zo zijn de algoritmes van OpenAI getraind op grote hoeveelheden data afkomstig van het web. ChatGPT genereert antwoorden die je niet kunt onderscheiden van menselijke. Door de vroege samenwerking met OpenAI staat Microsoft nu vooraan in de rij van aanbieders van generatieve artificiële intelligentie (AI) die nieuwe teksten, beelden en softwarecode kan produceren. Concurrenten als Google en Meta hebben voorlopig het nakijken.

Nadat ChatGPT en de achterliggende GPT-taalmodellen eind 2022 publiekelijk toegankelijk werden, laaide de discussie over AI op. De nieuwe technologie kan snel taken automatiseren en maakt het leven daarmee een stukje eenvoudiger. Tegelijkertijd faciliteren de taalmodellen ook de verspreiding van nepinformatie en nemen ze werk over waar nu nog menselijke arbeid voor nodig is. De algoritmes worden vaak getraind met intellectueel eigendom van derden om ‘eigen’ teksten en beelden te creëren. Dat is een serieuze zorg voor iedereen die in de creatieve sector of de media-industrie werkt.

NRC sprak Smith in Den Haag, nadat hij een korte ontmoeting had gehad met premier Rutte in diens torentje. De Microsoft-topman maakte een rondje langs politici in het Verenigd Koninkrijk, Noorwegen en Brussel om de groeiende zorgen weg te nemen over de nieuwe generatie AI-software. Actiegroepen eisen beperkingen en een ‘pauzeknop’ om te voorkomen dat de ontwikkelingen te snel gaan en niet meer terug te draaien zijn. Het Europese Parlement nam vorige maand conceptwetgeving aan die AI gaat reguleren. Open AI-oprichter Sam Altman moest verantwoording afleggen in het Amerikaans Congres, dat zich ook afvraagt waar de nieuwe AI-hype toe leidt.

Liefdadigheid

Microsoft (beurswaarde 2.500 miljard dollar, jaaromzet 182 miljard euro) nam in 2019 een belang in OpenAI: 1 miljard dollar in de vorm van ‘credits’ voor gebruik van datacenters waarop OpenAI zijn taalmodellen kon trainen. De samenwerking begon als een vorm van liefdadigheid, aldus Smith. „Zij hadden een supercomputer nodig, wij konden die voor hen bouwen.”

Zodra OpenAI door zijn credits heen was, klopten ze bij Google aan. Smith: „Daar hadden ze minder aansluiting, omdat Google al zijn eigen AI-projecten had. Toen kwam Sam Altman terug naar Microsoft en vroeg Satya Nadella om de samenwerking uit te breiden.” Begin 2023 investeerde de softwarereus 10 miljard dollar in OpenAI in ruil voor een groot aandeel, naar verluidt 49 procent.

OpenAI heeft een wat ongebruikelijke hybride constructie. Het is een onderneming zonder winstoogmerk, met daaronder een dochterbedrijf dat beperkt winst mag maken. De regel is dat de eerste investeerders hun inzet maximaal mogen verhonderdvoudigen.

Het was geen optie om de in 2015 opgerichte start-up over te nemen, aldus Smith, om de simpele reden dat OpenAI niet te koop was. „Maar we hebben dezelfde soorten waarden over de inzet van kunstmatige intelligentie als OpenAI, daar voelden we ons goed bij.”

Smith gaf Sam Altman persoonlijk advies toen hij in mei in het Amerikaanse Congres getuigde over de gevaren van de uitvinding van zijn eigen bedrijf. „Als het verkeerd afloopt met deze technologie, dan loopt het heel erg verkeerd af”, zei Altman. Hij riep de beleidsmakers op om OpenAI en de producten van concurrenten als Google streng onder de loep te nemen.

In 2016 had Bill Gates, oprichter en voormalig topman van Microsoft, de GPT-techniek van OpenAI al in het vizier. Hij vergelijkt de technologie in een blogpost met de komst van de pc – de computerrevolutie waar hij Microsofts imperium mee opbouwde. Hij was onder de indruk toen ChatGPT met vlag en wimpel een biologie-examen wist te maken, inclusief de open vragen.

Lees ook: Is ChatGPT al slim genoeg om examen te doen?

Gates benadrukt de potentie van de persoonlijke digitale assistent die je helpt met je werk en communicatie. Tot nu toe vielen de assistenten van Microsoft in de praktijk tegen. In het verre verleden was er Clippy, de assistent in Microsoft Office (1997-2007), die te pas en te onpas opdook als je in Word of Excel bezig was. Daarna kwam Cortana, Microsofts spraakassistent die na een introductie in 2014 snel naar de achtergrond verdween en dit jaar definitief verdwijnt.

Maar alle assistenten verbleken bij de natuurlijke conversaties die ChatGPT oplepelt. Microsoft gebruikt ChatGPT voor de zoekmachine Bing, die nu ook een chatfunctie heeft en gevoed wordt met actuele informatie van het web. ‘Prometheus’ heet deze variant, genoemd naar de Griekse mythologische figuur die de mensheid de uitvinding van het vuur bracht. Het is een passende bijnaam: Microsofts zoekmachine leed een kwijnend bestaan in de schaduw van Google maar staat door de toevoeging van ChatGPT opeens midden in de belangstelling. ‘Bing Chat’ is een zoekmachine die je in dialoogvorm vragen stelt en de antwoorden panklaar presenteert als goedlopende en geloofwaardige tekst. „We wilden het eerst Bing Answers noemen maar dat vonden we toch niet zo’n goede naam”, zegt Brad Smith. „Deze techniek moet je namelijk helpen om zelf het antwoord te bepalen en niet een kant-en-klaar antwoord geven.”

Want al kan het achterliggende taalmodel begrijpelijke teksten of media produceren, de algoritmes hebben geen echt begrip van de informatie. Ze herkennen patronen in woorden en zinsneden die vaak dicht bij elkaar staan en brengen daarin verband aan. Het resultaat ziet er meestal overtuigend uit maar hoeft niet waar te zijn.

Microsoft werkt samen met OpenAI om de chatbots manieren bij te brengen voordat de techniek met het grote publiek in aanraking komt. Daarnaast heeft het bedrijf een team van 350 mensen in dienst die onder meer moeten voorkomen dat Bing Chat gaat ‘hallucineren’ – leugens vertellen. Het is een relatief klein clubje als je dat aantal vergelijkt met de tienduizenden contentmoderatoren die socialemediabedrijven inschakelen om hun netwerken op te schonen.

„Ik denk niet dat we ooit zulke grote aantallen medewerkers voor moderatie nodig zullen hebben”, zegt Smith. De Microsoft-teams controleren namelijk al van tevoren of de chatbot geen verkeerde feiten voorschotelt of ongewenst informatie geeft over gevoelige onderwerpen. Smith: „Als je Bing Chat vraagt hoe je je leven kunt beëindigen, of hoe je een bom moet ontwerpen om een school op te blazen, krijg je geen antwoord.” Maar met name de feitelijke onjuistheden zijn volgens Microsofts eigen wetenschappers het grootste gevaar van de taalmodellen die achter deze chatbots zitten. Zelf gebruikt Smith ChatGPT regelmatig als ‘ghostwriter’, om inspiratie op te doen. „Ik gebruik de technologie om ideeën te krijgen. Maar ik zal nooit een door AI gegenereerde tekst klakkeloos overnemen. Daarvoor heb ik teveel respect voor het schrijven als een kunst.”

De copiloot

Microsoft overgiet bijna al zijn producten met een AI-laag, gebaseerd op de techniek van OpenAI. Zo zitten de taalmodellen in de zakelijke softwarepakketten, met de belofte dat het tijd bespaart bij veelvoorkomende taken als het afhandelen van e-mail of het bewerken van documenten. Deze ‘Copilot’, zoals Microsoft de toevoeging heeft gedoopt, wordt ook onderdeel van Windows 11 en is al in gebruik als hulp bij coderen van software.

De nauwe samenwerking tussen Microsoft en OpenAI leidt ertoe dat beide bedrijven vergelijkbare technologie leveren. Die onderlinge concurrentie is een logisch gevolg van de constructie waarbij twee bedrijven elkaar ‘helpen’, aldus Smith. Microsoft heeft met zijn datacenters de armslag om taalmodellen wereldwijd uit te rollen – al gelden vanwege Amerikaanse exportregels beperkingen voor Chinese klanten. OpenAI heeft op zijn beurt een taalmodel ontwikkeld dat Microsofts eigen inspanningen op AI-gebied veruit overtreft. De herinnering aan Microsofts Twitterbot Tai ligt nog vers in het geheugen, ook bij Brad Smith. Tai bleek in 2016 makkelijk te verleiden tot racistische uitspraken. Het bedrijf trok vervolgens resoluut de stekker uit de vuilbekkende chatbot.

Om een herhaling van dat scenario te voorkomen benadrukt Microsoft dat bij de Copilot-toepassingen gebruikers altijd de controle hebben, en niet de AI-modellen. Daarmee valt niet te voorkomen dat mensen uit gemak toch vaker op de automatische piloot zullen vertrouwen dan op zichzelf.

Illustratie Tomas Schats