Nieuwsgierig naar de mogelijkheden van ChatGPT wilde ik mijn nieuwe maffiaroman Vrouw van eer ook in het Engels, Italiaans en Duits vertalen. De mogelijkheden van de nieuwe AI-vertaalmachine zijn natuurlijk veelbelovend: voor een klein bedrag kan je als relatief onbekende auteur ook je verhaal kwijt bij andere lezers. Maar het vertalen van mijn teksten heeft me ook geleerd dat bij ChatGPT de censuur op de loer ligt.
Het vertalen op zichzelf is relatief simpel. Voor een extra maandbedrag van ruim 20 euro kan je ChatGPT 4.0, de betere versie van het programma, aan het werk zetten. Wel een tijdrovende klus, want na een woord of vijfhonderd per vertaalopdracht begint de machine te haperen en na zo’n veertig opdrachten komt de computer wegens grootverbruik tijdelijk stil te liggen.
De echte problemen ontstaan als de teksten seks en geweld beschrijven en ChatGPT weigert de vertaling af te ronden. De AI-machine heeft daarbij een aantal smaken. Als cocaïne of een vrijpartij beschreven worden, krijgt de gebruiker een waarschuwing dat de tekst mogelijk in strijd is met het gebruikersbeleid van OpenAI. De tekst verkleurt van zwart naar rood maar is nog wel leesbaar en bruikbaar. Ook bij wapens of schietpartijen komt deze variant in beeld.
Als de teksten nog naarder zijn – in mijn verhaal zijn twee hoofdpersonages in hun jeugd verkracht – slaat de machine helemaal op tilt en weigert hij de tekst te vertalen. Bij de in de ogen van ChatGPT ergste passages verwijdert het programma zelfs de Nederlandse versie – alsof de machine zichzelf beschermt en niet meer in aanraking wil komen met deze tekst. Aangezien de AI-software een zelflerend systeem is en zich voedt met online-teksten, ontstaat zo een vicieuze cirkel waarbij onwelgevallige teksten steeds minder acceptabel worden.
Weggegumd
Het wonderlijke van ChatGPT is dat je als gebruiker wel terug kan praten en kritiek kan uiten op de geleverde vertalingen. Dan krijg je vaak excuses aangeboden en soms doet het programma een nieuwe poging. Maar bij seksueel geweld – toch een belangrijk thema om als auteur over te schrijven – weigert ChatGPT stelselmatig een vertaling te geven. Alleen al de zinsnede dat de hoofdpersoon in haar jeugd ‘verkracht’ is, wordt weggegumd.
In een toelichting zegt de AI weliswaar rekening te houden met culturele verschillen, maar zich ook aan enkele wetten en basisprincipes te moeten houden. Ergens is het nog wel te begrijpen dat een bedrijf kindermisbruik en discriminatie tracht te filteren, hoewel juist in de kunst vrijheid toch voorop zou moeten staan. Maar ook als je aangeeft dat het een romantekst betreft, en dat er in Europa andere normen gelden dan in bijvoorbeeld de Verenigde Staten, komt ook bij de Italiaanse en Duitse vertaling seksueel geweld niet door de controle.
Heel gluiperig is de aanpak van ChatGPT als er wel een vertaling volgt, maar de scherpe randjes van de tekst worden afgevijld. Zo veranderde de machine een expliciete, wat grove seksscène met penis, sperma en vagina in een meer zoetgevooisde versie met termen als making love. Zelfs als er een vertaling volgt, moet je dus goed opletten of de tekst wel waarheidsgetrouw is.
Vooral in dit ongevraagd herschrijven schuilt een enorm gevaar. Gezien de snelheid van de ontwikkelingen is het goed voorstelbaar dat in de nabije toekomst boeken en teksten automatisch op websites als vertaalde versie aangeboden gaan worden. De lezer krijgt dan niet meer de echte versie onder ogen, maar de gecensureerde variant.
We zullen moeten oppassen dat de meer preutse Amerikaanse normen wereldwijd niet de overhand krijgen. Afgelopen week nog bleek dat er in de VS vorig jaar weer meer boeken zijn geweerd uit bibliotheken omdat ze onwelgevallig zouden zijn. Met een automatische screening dreigt dat alleen maar toe te nemen en zal je als kunstenaar verder in je vrijheid worden beknot. Terwijl juist het beschrijven van onrecht en seksueel geweld kan helpen deze misstanden aan te pakken.
Lees ook
AI kan veel. Maar kan het een comedian vervangen?