Wat is er open aan slimme chatbot-maker OpenAI?

Vrij toegankelijke artificiële intelligentie (AI) waarbij iedereen onder de motorkap kan kijken. Dat was het ideaal waarvoor in 2015 in San Francisco een nieuwe club werd opgericht: OpenAI, een laboratorium voor AI zonder winstoogmerk.

„Alles wat de groep ontwikkelt wordt beschikbaar voor iedereen,” zei mede-oprichter Sam Altman destijds tegen journalist Steven Levy van tech-tijdschrift Wired. De oprichters presenteerden het lab als een non-profit met een missie: misbruik van AI tegengaan. Altman: „Omdat we geen bedrijf met winstoogmerk zoals Google zijn, kunnen we focussen op iets anders dan het verrijken van onze aandeelhouders, namelijk op wat wij denken dat het beste is voor de toekomst van de mensheid.”

Zeven jaar later is OpenAI het meest prominente AI-lab ter wereld. „Eerst kregen we internet. Toen kwam de iPhone. Nu is er ChatGPT”, tweette Alexander Klöpping begin december over ChatGPT, de eind november gelanceerde chatbot van OpenAI. En hij is niet de enige die de introductie van dit taalmodel als een grote gebeurtenis beschouwt.

De hele wereld is verbluft over het AI-systeem dat met het grootste gemak een essay over de Cubacrisis schrijft, of een aflevering van een sitcom. Het geeft moeiteloos antwoord op allerhande vragen, ook over zichzelf, in schijnbaar natuurlijke, menselijke taal. Volgens The New York Times zou ChatGPT weleens de opvolger van zoekmachines kunnen zijn. Het kan niet alleen suggesties voor kerstcadeaus aandragen, maar ook „informatie opdienen in duidelijke, eenvoudige zinnen, in plaats van een lijstje internetlinks, en concepten uitleggen op een manier die mensen makkelijk begrijpen.”

Lees ook: Mag je deze superslimme chatbot je huiswerk laten maken en wat merkt de docent ervan?

Binnen een week had ChatGPT al een miljoen gebruikers. En dat is de tweede keer in krap een jaar dat een toepassing van OpenAI een hit werd. Want in de zomer was er de hype rondom de revolutionaire beeldgenerator DALL-E 2, waarmee iedereen instant ‘kunst’ kan maken. Het systeem, waarvan de naam knipoogt naar Salvador Dalí, draait zijn hand niet om voor een opdracht als „Teken een paard op de maan in de stijl van Andy Warhol”, maar kan ook realistische beelden genereren die eruitzien als foto’s.

OpenAI werd opgericht door een groep rijke investeerders uit Silicon Valley, die gezamenlijk meer dan een miljard dollar in het lab stopten. Onder hen: Elon Musk (Tesla, Space X), Sam Altman van Y Combinator (de startup accelerator van onder meer Airbnb en DropBox) en PayPal-oprichter Peter Thiel.

„Ik denk dat de beste verdediging tegen misbruik van AI is om zo veel mogelijk mensen in staat te stellen om AI te gebruiken”, zei Musk in het eerder genoemde artikel in tech-tijdschrift Wired. „Als iedereen AI-power heeft, kan er geen AI-superpower bij een individu of klein groepje mensen liggen.”

Volgens de website van OpenAI is het doel nog steeds „ervoor te zorgen dat Artificial General Intelligence ten goede komt van de gehele mensheid.” Maar voor zover die missie ooit oprecht was, is er volgens critici weinig van over.

Verdwenen idealen

In 2019 werd de non profit-structuur van OpenAI verruild voor een hybride model, waarbij voortaan een commercieel bedrijf vanuit de non-profit-organisatie bestuurd zou worden. Microsoft investeerde datzelfde jaar een miljard dollar in OpenAI en kreeg de exclusieve licentie van taalmodel GPT3, de voorloper van ChatGPT.

„Ik kijk met een mix van bewondering en zorg naar OpenAI,” zegt Jelle Zuidema, onderzoeker taaltechnologie (UvA). „Het is duidelijk dat er ontzettende goede techneuten werken, en dat er een bedrijfscultuur is waarin creatieve nieuwe ideeën kunnen floreren. Maar waar zijn de idealen waarmee ze zijn opgericht: open technologie, een tegenwicht tegen Big Tech?” Die zijn ver te zoeken, ziet Zuidema. „De onderliggende technologie van hun producten is maar zeer beperkt te onderzoeken door onafhankelijke wetenschappers. En GPT3 wordt door techreus Microsoft gefinancierd en verhandeld.”

OpenAI is niet wat het lijkt, constateerde Karen Hao al in 2020 in MIT Technology Review. De journalist mocht komen kijken bij het AI-lab, gevestigd in een historisch gebouw in San Francisco waar in grote letters PIONEER BUILDING op staat. Ooit zat hier de Pioneer Truck Factory, nu wordt er gepionierd met AI in zalen met namen als ‘A Space Odyssey’. OpenAI deelt het pioniersgebouw en de kantine met een ander tech-lab: Neuralink, het bedrijf van Elon Musk dat breinchips ontwikkelt.

„Wat het bedrijf publiekelijk omarmt strookt niet met hoe het achter gesloten deuren opereert”, schreef Hao. „Gaandeweg heeft het een ontwikkeling toegelaten waarbij zijn oprichtingsidealen van transparantie, openheid en samenwerking zijn uitgehold door een felle competitiviteit en toenemende druk om steeds meer financiering te vinden.”

Lees ook: Als de computer beter wordt met taal dan wij

„Wat is er op open aan OpenAI?”, vraagt techfilosoof Marleen Stikker, directeur van De Waag, retorisch. „ De naam suggereert dat het draait om collectieve kennis, maar dat is niet het geval. De software en de modellen zijn niet open voor onderzoek of hergebruik. Wetenschappers kunnen er weinig mee, want de systemen zijn te groot.”

De idealen die de oprichters afficheerden, blijken op gespannen voet te staan met andere ambities van het AI-lab. Zo is het ontwikkelen van Large Language Models (LLM’s), de reusachtige taalmodellen zoals ChatGPT die miljoenen teksten ‘gelezen’ hebben en op basis van die kennis de meest uiteenlopende taaltaken kunnen uitvoeren, ontzettend duur. Een trainingsronde van GPT3 kost 12 miljoen dollar, berekende een tech-ondernemer op basis van OpenAI’s eigen informatie over het energieverbruik van het taalmodel. Dus er is veel geld nodig van nieuwe investeerders om koploper te kunnen blijven op het gebied van LLMs, wat het lastig maakt non-profit te blijven.

Te groot om te controleren

Verder is de trend van LLM’s die groeien als kool moeilijk verenigbaar met transparantie. De schaalvergroting zorgt dat de modellen beter werken – hoe meer tekst ze hebben gelezen en hoe meer rekenkracht ze hebben, hoe beter ze worden – maar dat staat transparantie in de weg: een database van miljoenen teksten is te groot om te controleren op onjuistheden en vooroordelen.

En dan is er nog de ambitie van OpenAI om als eerste ‘AGI’ te bereiken: Artificial General Intelligence, oftewel AI die dezelfde intellectuele taken kan uitvoeren als een menselijk brein. Daarin concurreert het lab met andere techbedrijven en die wedloop staat volgens critici een veilige, verantwoorde ontwikkeling van AI in de weg. „Als bedrijven weten dat iedereen met levensgevaarlijke snelheid naar de nieuwste AI racet”, zei de toenmalige PhD-student Miles Brundage al in 2015 tegen Wired, „dan zijn ze misschien minder geneigd om garanties voor veilige AI neer te leggen.”

In 2018 trad Brundage bij OpenIA in dienst – en hij is niet de enige witte man die daar werkt. Een gebrek aan diversiteit geldt voor de hele tech-industrie, maar is in het geval van OpenAI extra moeilijk te rijmen met de claim om AI voor de gehele mensheid te willen maken.

„Ook al zou OpenAI de beste bedoelingen hebben”, zegt hoogleraar Tamar Sharon, die leiding geeft aan de interdisciplinaire onderzoeksgroep Digitalisering en Samenleving van de Radboud Universiteit, „dan nog vertegenwoordigen ze de mensheid op geen enkele manier. OpenAI dient de agenda van hun investeerders: Silicon Valley-miljardairs die technologie pushen als oplossing voor alle problemen van de mensheid. Hun eigen technologie, wel te verstaan, die ze aan ons verkopen.”

Lees ook: Waakzaam blijven bij het vervagen van de grens tussen echt en AI

De idealen van OpenAI zijn ongeloofwaardig, vindt Sharon. „OpenAI is opgericht door een groepje miljardairs vanuit hun ideologie van Effective Altruism, EA, waartoe ook de gevallen crypto-miljardair Sam Bankman-Fried bij hoort. De EA-beweging wil de mensheid redden van een apocalyps waarbij een machine met menselijke intelligentie de mensheid vernietigt.”

Sharon is bezorgd over de invloed van deze schatrijke Effective Altruism-aanhangers op AI. „Ze hebben het over ‘beneficial AI’ die in de toekomst menselijke arbeid kan overnemen, maar vooralsnog wordt veel AI aangedreven door menselijke arbeid in lagelonenlanden: tienduizenden onderbetaalde krachten die door de datasets heen spitten. En Large Language Models als ChatGPT hebben een gigantische ecologische voetafdruk: ze slurpen energie. De huidige trend in AI-land is om deze LLM’s steeds groter te maken, want daar gaan ze beter van presteren. Wat dat betekent voor de planeet is allerminst beneficial voor de mensheid.”

Collectieve kennis

Inmiddels begint ook het verdienmodel van OpenAI duidelijk te worden. De wereld mag gratis kennis maken met DALL-E 2 en ChatGPT maar daarna moeten we ervoor gaan betalen. Als je gratis credits op zijn, moet je nieuwe bijkopen om de applicatie te kunnen blijven gebruiken. Ook gaat het AI-lab verdienen aan andere techbedrijven die apps willen bouwen met de technologie van OpenAI. Vorige maand bleek uit een uitgelekte presentatie voor investeerders dat OpenAI in 2023 verwacht 200 miljoen dollar inkomsten te genereren. En in 2024 een miljard.

De idealen van OpenAI zijn volgens Marleen Stikker van meet af aan „een rookgordijn” geweest voor de commerciële belangen van de investeerders. De techfilosoof legt het lot van de mensheid niet graag in handen van Silicon Valley-miljardairs. „Pas op als ze het hebben over ‘de mensheid’, want ze bepalen zelf wat ze daarmee bedoelen. Meestal betekent het niet de mensheid hier en nu, maar die van de toekomst, zoals zij die zelf voor zich zien.”