Chatbots trappen in een verzonnen ziekte: zo check je medische antwoorden
Inhoudsopgave
Wat er gebeurde
Almira Osmanovic Thunström van de Universiteit van Göteborg publiceerde in maart 2024 een blog over de verzonnen oogziekte, gevolgd door twee nep-wetenschappelijke artikelen. Die stukken stonden vol aanwijzingen dat het een grap was, met onlogische namen, verzonnen instellingen en zelfs een zin die zei dat het hele artikel verzonnen was. Toch gaven Copilot van Microsoft en Gemini van Google de aandoening later als echt weer, soms zelfs als mogelijke verklaring voor klachten die gebruikers beschreven. Het tijdschrift Cureus publiceerde bovendien een wetenschappelijk artikel dat naar bixonimania verwees. Dat artikel is op 30 maart 2026 teruggetrokken. Het verhaal staat goed samengevat op Wikipedia en kwam deze week opnieuw in het nieuws.
De les is niet dat chatbots dom zijn. De les is dat ze niet kunnen zien of iets waar is. Ze herhalen wat vaak genoeg ergens op internet staat, en als een verzonnen ziekte eenmaal in een paar bronnen voorkomt, klinkt hij voor een taalmodel net zo echt als griep.
Waarom medische antwoorden extra riskant zijn
Bij een recept of een reisplanning is een fout vervelend. Bij gezondheid kan een fout gevolgen hebben. Een chatbot die een onschuldige klacht als iets ernstigs duidt, maakt je onnodig ongerust. Een chatbot die een ernstige klacht wegzet als iets onschuldigs, is gevaarlijker. We schreven eerder over huisartsen die extra telefoontjes krijgen door het medische advies in de AI van Google.
Daar komt bij dat chatbots altijd zeker klinken. Er staat zelden bij dat iets omstreden is of dat de bron twijfelachtig is. Een zoekmachine laat je tenminste zien waar een bewering vandaan komt.
Het experiment laat ook zien hoe het mis kan gaan in de wetenschap zelf. Onderzoekers gebruiken chatbots om literatuur te zoeken en samen te vatten. Als een chatbot een verzonnen bron als echt presenteert en een onderzoeker dat niet controleert, komt de fout in een echt artikel terecht. Daarna staat hij in een bron die er betrouwbaar uitziet, en die bron wordt weer opgepikt door de volgende generatie chatbots. Zo kan een grap uitgroeien tot iets wat op kennis lijkt. Het tijdschrift heeft het artikel teruggetrokken, maar dat gebeurde pas nadat het experiment aandacht kreeg.
Zo check je een medisch antwoord
Wij vinden het prima om een chatbot te gebruiken om een medisch begrip uit te laten leggen of om vragen voor je huisarts op een rij te zetten. Maar controleer wat je leest. Dat kost een paar minuten.
- Vraag de chatbot om zijn bronnen, en open ze. Staat er geen bron bij, of verwijst hij naar een blog of een onbekende site, wees dan extra voorzichtig.
- Zoek de naam van de aandoening op bij Thuisarts.nl, de site van het Nederlands Huisartsen Genootschap. Staat hij daar niet, dan is dat al een signaal.
- Kijk voor aandoeningen die niet op Thuisarts staan bij de site van een ziekenhuis of een patiëntenvereniging, of bij het RIVM voor infectieziekten.
- Stel dezelfde vraag aan een tweede chatbot. Geven ze elkaar tegenspraak, dan weet je in elk geval dat het antwoord niet vaststaat.
- Let op woorden als erkende aandoening of bekend syndroom zonder bron erbij. Juist die stelligheid trok bij bixonimania gebruikers over de streep.
- Gaat het om klachten die je nu hebt, bel dan je huisarts of de huisartsenpost. Een chatbot kan je niet onderzoeken.
Wat wel goed werkt
Chatbots zijn nuttig als voorbereiding. Laat je een brief van het ziekenhuis in gewone taal uitleggen, of vraag welke vragen je aan je specialist kunt stellen, dan helpt dat. Haal daarbij wel je naam en andere persoonlijke gegevens uit de tekst. Het wordt riskant zodra je de chatbot de diagnose laat stellen. Daar is hij niet voor gemaakt, en het verhaal van bixonimania laat zien waarom.
