N.B. Het kan zijn dat elementen ontbreken aan deze printversie.
Sociale media Süeda Isik volgt de socials, op zoek naar memes die iets vertellen over de tijd waarin we leven. Deze keer: ChatGPT als monster dat zich verschuilt achter een smiley.
:format(webp)/s3/static.nrc.nl/images/gn4/stripped/data101775655-bc5e0d.jpg)
De manier waarop kunstmatige intelligentie (AI) de samenleving gaat veranderen valt moeilijk te voorspellen. Maar een groep mensen die er daadwerkelijk verstand van heeft, vergelijkt de nieuwe technologie op sociale media vaak met een monsterlijk wezen. Een ‘Shoggoth’ om precies te zijn. Dat is een soort blubberige octopus met vele ogen, die zo groot is als een huis en van gedaante kan veranderen.
Dit fictieve monster werd in 1931 bedacht door de Amerikaanse horrorschrijver H. P. Lovecraft en draagt nu een masker met een smiley in een populaire meme onder AI-insiders. Volgens hen symboliseert de Shoggoth met een smileymasker de werking van taalmodellen zoals die van chatbot ChatGPT. Deze taalmodellen gebruiken grote hoeveelheden tekst om nieuwe teksten te genereren. Maar om beleefde en aardige teksten te genereren, moeten de modellen worden getraind. Techbedrijf OpenAI gebruikt bijvoorbeeld de bekende techniek reinforcement learning from human feedback (RLHF). Hierbij beoordeelt een mens de reacties van de chatbot en geeft feedback tot de AI zich steeds beter en menselijker gedraagt.
De eerste meme hierover was een reactie op de voorganger van ChatGPT, GTP-3, dat gebruik maakte van RLHF. Twitteraar @TetraspaceWest deelde een tekening van twee Shoggoths. De ene gruwel vertoont zich open en bloot en heet ‘GPT-3’ – en de andere gruwel draagt een schattig masker van een smiley en heet ‘GPT-3 + RLHF’.
De maker van de meme vertelde aan The New York Times dat het vergelijken van een AI-taalmodel met de Shoggoth niet per se betekent dat de technologie kwaadaardig is. Louter dat de ware aard ervan nog onbekend is. De machtigste entiteiten van Lovecraft zouden gevaarlijk zijn wegens hun onverschilligheid en mysterieuze prioriteiten.
Humeurige robot
De auteur van het artikel, tech-columnist Kevin Roose, merkte dat de AI-chatbot van Bing (zoekmachine van Microsoft) gekke dingen deed die de makers niet konden verklaren. Twee uur lang sprak hij met de robot (die ook draait op software van OpenAI), waarbij hij expres de grenzen opzocht met vragen over het onbewuste en verdrongen verlangens. Uiteindelijk sprak de robot volgens Roose als „een humeurige, manisch-depressieve tiener die gedwongen gevangen zit in een tweederangs zoekmachine”. De technisch directeur van Microsoft, Kevin Scott, vertelde de journalist dat zo’n verloop van een gesprek onmogelijk te ontdekken is in een lab.
De Groene Amsterdammer concludeerde vorige week uit eigen onderzoek dat ChatGPT waarschijnlijk put uit tal van Nederlandse websites vol nepnieuws en complottheorieën. In de top-tweehonderd van meest geciteerde websites staat het neonazistische Stormfront op plek 165 en de complotsite Vrijspreker op 169. Op plek 190 staat E.J. Bron die zich omschrijft als „voor vrijheid van meningsuiting, tegen de islamisering van Europa, tegen de EUSSR, tegen de mainstream, voor het behoud van westerse waarden en tradities en pro-Israël”.
AI trainen met lukrake websites leidt ertoe dat chatbots onbetrouwbare informatie en vooroordelen overnemen. „Dat verschijnsel heet in programmeerkringen het garbage in, garbage out-principe”, schrijft De Groene. Het monster wordt mede gevoed met racistische troep en complotten. En wanneer het zijn masker vergeet op te zetten, bestaat de kans dat dat zichtbaar wordt.
De shoggoth-meme is een onderonsje tussen AI-fanaten en deskundigen bij wie een angstgevoel heerst over het monster dat is geschapen. De onbegrensde kracht van kunstmatige intelligentie wordt ook gevreesd door het Europees Parlement. Deze woensdag stemde het in met de komst van een wetgeving over de technologie, met bijvoorbeeld bindende regels voor chatbots. Het moet nog blijken of de EU in staat is om dit beest te temmen.
