AI-kenners moeten hun tekst zelf schrijven als ze naar Hawaï willen

Ophef Wie een paper schrijft voor de jaarlijkse AI-conferentie, mag nog wel spellingscheckers gebruiken.

Met ChatGPT is het mogelijk teksten te produceren die moeilijk te onderscheiden zijn van menselijke.
Met ChatGPT is het mogelijk teksten te produceren die moeilijk te onderscheiden zijn van menselijke.

Foto Peter Morgan/AP

Problemen in het paradijs? Onderzoekers die deze zomer naar Hawaï reizen voor de Internationale Conferentie over Machine Learning (ICML) zullen hun papers eerst echt helemaal zelf moeten schrijven.

De organisatoren van de jaarlijkse conferentie, de belangrijkste op het gebied van artificiële intelligentie (AI), lieten vorige week weten dat ingezonden artikelen en presentaties geen tekst mogen bevatten die is geproduceerd door „grootschalige taalprogramma’s”. Dat is een reactie op het stormachtige succes van de nieuwe chatbot ChatGPT, een programma dat korte en lange teksten kan schrijven die niet of nauwelijks nog te onderscheiden zijn van menselijke.

In een verklaring schrijven de organisatoren dat de snelle opkomst van zulke large scale language models „onvoorziene consequenties” heeft en „open vragen” oproept over de authenticiteit van teksten en hun auteursrecht. Is een nieuwe tekst die door een computer is geschreven nu eigendom van de gebruiker, van de ontwikkelaar die het model heeft getraind of van auteurs van wie bij het trainen teksten zijn gebruikt? Of misschien wel van de computer?

Conservatief

Op al die vragen zal binnenkort wel antwoord komen, verwacht de organisatie, maar nog zo kort na de lancering van ChatGPT in november vindt die het verstandiger om „conservatief” te zijn en pas op de plaats te maken. Inzenders van papers mogen voor hun tekst nog wel gebruik maken van „lichte” technologische hulpmiddelen als spellingscheckers of grammaticaprogramma’s.

Dan is er nog wel een puntje: de handhaving. Gaat de organisatie straks alle papers die op de conferentie worden besproken scannen op computertekst, misschien wel een AI-programma? Voor de conferentie vorig jaar werden 1.187 papers geaccepteerd (21,5 procent van de inzendingen). Nee, aldus de organisatie, actie wordt alleen ondernomen als iemand met een redelijke verdenking komt dat een tekst niet (helemaal) door de inzender zelf is geschreven. De laatste conferentie vóór corona werd bezocht door ruim 6.000 onderzoekers.

Essays en poëzie

Sinds de lancering heeft ChatGPT, een product van het Amerikaanse bedrijf Open AI, wereldwijd meer dan een miljoen gebruikers gevonden. Het programma zoekt, verzamelt en schrijft ‘levensechte’ teksten, van samenvattingen tot essays en zelfs poëzie. Voor onderzoekers, scholen en universiteiten brengt dat nieuwe risico’s met zich mee.


Lees ook: Waar wordt ChatGPT al voor gebruikt?

Inmiddels wisselen wetenschappers op sociale media waarschuwingen en tips uit. Een Amerikaanse hoogleraar filosofie wees er op Facebook op dat Chat GPT-teksten zo „mechanisch” zijn dat die meestal wel te herkennen zijn. Ook wordt in zulke teksten (vooralsnog) zelden stelling genomen en krijgt de lezer vooral enerzijds/anderzijds-overwegingen voorgeschoteld. Docenten die hun studenten kennen – en vaker papers laten schrijven – zullen bovendien hun ‘stem’ kennen en merken wanneer die in een tekst ontbreekt. Een andere filosoof grapte op Facebook dat GPT-3 betere gedichten schrijft dan scripties.

De aanmaning voor het ICML-congres geldt alleen voor dit jaar. Daarna wordt de zaak opnieuw bekeken.