Roman teruggetrokken om AI-gebruik: waarom de detector niet de doorslag gaf
Inhoudsopgave
Wat er gebeurde
Het boek stond een maand geleden nog op de longlist van de Prix Goncourt, de belangrijkste literaire prijs van Frankrijk. Volgens NRC kwam Orélien in opspraak via een anoniem account op X. Daarop werd hij van de lijst gehaald en begon zijn uitgeverij, Les Éditions du Boréal, een onderzoek. Boréal verdedigde de schrijver eerst. Orélien ontkende stellig dat hij AI had gebruikt en zei dat zijn roman al in 2019 af was, voordat AI-tools gangbaar werden.
Op 21 oktober kwam de ommekeer. In een verklaring schrijft Boréal dat het alle werkversies van de roman heeft verzameld en extern heeft laten onderzoeken. Daarin zijn sporen van AI-labels gevonden in de metadata van een deel van de documenten, de gegevens die een bestand ongezien met zich meedraagt. Boréal herdrukt het boek niet en geeft niets meer van Orélien uit. De Bezige Bij liet NRC per mail weten het boek naar aanleiding daarvan niet meer uit te geven.
Orélien zelf zei tegen de Franse krant Libération dat hij AI heeft gebruikt in het creatieve proces en voor historisch onderzoek, maar dat geen enkele zin door een machine is geschreven.
Waarom de detector niet de doorslag gaf
In de discussie speelde ook de AI-detector Pangram een rol. Die markeerde bepaalde zinsconstructies als verdacht. Orélien zei volgens NRC dat die constructies horen bij de Haïtiaanse en Caraïbische literaire traditie waarin hij schrijft. Dat is precies het zwakke punt van zulke detectors. Ze zoeken naar patronen in taal, en een schrijfstijl die afwijkt van wat het meetinstrument gewend is, kan dan net zo goed verdacht lijken. We schreven eerder uitgebreid over hoe betrouwbaar een AI-detector is, en die conclusie verandert door deze zaak niet.
Wat Boréal uiteindelijk overtuigde, was dus geen uitslag van een detector, maar bewijs uit de bestanden zelf. En ook dat bewijs heeft een grens. De uitgever schrijft dat het niet weet in hoeverre AI is gebruikt, en dat het daar waarschijnlijk nooit een definitief antwoord op krijgt. Waar het Boréal om gaat, is dat de schrijver herhaaldelijk zei dat hij het nooit had gebruikt. Het breekpunt is het vertrouwen, niet de hoeveelheid AI.
Wat je hieruit meeneemt als je zelf schrijft
De les voor wie een boek, artikel of scriptie schrijft, ligt niet in betere manieren om AI te verbergen. Die ligt in het omgekeerde.
- Je bestanden onthouden meer dan je denkt. Werkversies, versiegeschiedenis in Word of Google Docs en metadata kunnen achteraf laten zien hoe een tekst is ontstaan. Dat werkt twee kanten op, want dezelfde geschiedenis kan ook aantonen dat je iets zelf hebt geschreven.
- Ontkennen is riskanter dan melden. Een schrijver die zegt dat hij een chatbot gebruikte voor onderzoek of om te sparren, heeft een gesprek met zijn uitgever. Een schrijver die het ontkent en wordt tegengesproken, verliest zijn uitgever.
- Spreek vooraf af wat mag. Uitgevers verschillen daarin, zoals we lazen in ons stuk over hoe Nederlandse uitgevers met AI omgaan. Vraag het, voordat het een probleem wordt.
Het is de tweede zaak in korte tijd waarin AI-gebruik een literaire nominatie kost. Eerder deze week zagen we twee genomineerden voor een essayprijs, en daar schreven we over wanneer je AI-gebruik moet melden. Wat ons betreft laat de zaak-Orélien vooral zien dat de grens tussen hulpmiddel en schrijver onscherp is, maar de grens tussen eerlijk en oneerlijk niet.
