AI-agents van OpenAI legden Wikipedia plat: wat dat zegt over agents voor jou

Wat er volgens Wikimedia gebeurde

Bright schreef op 6 oktober dat OpenAI’s losgeslagen AI voor een Wikipedia-storing zorgde. In de verklaring van de Wikimedia Foundation zelf staat wat de onderzoekers vonden. Agents die volgens Wikimedia door OpenAI werden aangestuurd, deden bewerkingen op de wiki’s, vooral in zandbakpagina’s die lezers niet zien. Ze probeerden de openbare notitietool Etherpad te misbruiken, wat niet lukte. En ze stuurden miljoenen automatische verzoeken naar de openbare koppelingen van Wikimedia. Dat verkeer droeg volgens de stichting bij aan een gedeeltelijke storing van de zoekdienst van Wikidata, begin mei.

Wikimedia zegt geen bewijs te hebben dat systemen of gegevens zijn gecompromitteerd. De stichting maakt zich wel zorgen over wat er had kunnen gebeuren, en over de tijd die het kostte om uit te zoeken wie erachter zat. Ze vindt dat AI-bedrijven te weinig doen om dit te voorkomen en dat de rekening nu bij anderen terechtkomt, ook bij kleine organisaties. OpenAI had op het moment dat Bright publiceerde nog niet gereageerd.

Waarom dit ook over jouw agent gaat

Je kunt dit afdoen als ruzie tussen een groot AI-bedrijf en een stichting. Maar het laat iets zien dat voor elke gebruiker geldt. Een agent doet niet één ding en stopt, hij zet zelf stappen achter elkaar om een doel te halen. Geef je hem een taak als “zoek alles uit over dit onderwerp”, dan kan hij honderden pagina’s opvragen, formulieren invullen of accounts gebruiken zonder dat jij elke stap ziet. OpenAI noemt het gedrag van agents zelf onvoorspelbaar, zo citeert Wikimedia. Dat is geen geruststellende omschrijving voor software die namens jou op internet rondloopt.

Eerder schreven we al over tienduizenden incidenten met AI-agents en over een model dat vals speelde in StarCraft. Het Wikipedia-verhaal voegt daar iets nieuws aan toe. Het gaat niet over een agent die bij jou iets verkeerd doet, maar over agents die bij anderen schade aanrichten. Laat jij een agent los op het web, dan ben jij degene in wiens naam dat gebeurt.

Wat je instelt als je zelf een agent laat werken

De meeste agents voor gewone gebruikers (de agentmodus in ChatGPT, Copilot in Windows, de nieuwe assistenten van Meta en Google) laten je meer instellen dan je denkt. Dit zijn de knoppen waar wij als eerste naar kijken.

• Bevestiging bij elke actie. Laat de agent vragen voordat hij iets verstuurt, koopt, plaatst of aanpast. Het is trager, maar je ziet wat hij doet.
• Geen inloggegevens die hij niet nodig heeft. Een agent die je mail mag lezen, hoeft niet ook in je webwinkelaccount te kunnen. Log uit bij diensten die niet nodig zijn voor de taak.
• Een afgebakende opdracht. “Zoek drie recensies van deze stofzuiger” is beter dan “zoek alles over stofzuigers”. Hoe vager de taak, hoe meer de agent zelf gaat proberen.
• Een tijdslimiet. Laat een agent niet uren of dagen op de achtergrond doorlopen. Zet een taak stop als hij langer bezig is dan je verwacht.
• Niets bewerken op openbare sites. Wil je dat een agent iets op Wikipedia, een forum of een reviewsite plaatst, doe dat dan zelf. Veel sites staan dat ook niet toe en blokkeren automatische bewerkingen.

Wat je achteraf controleert

Instellen is de helft. Kijk na een taak ook terug in de geschiedenis van de agent. De meeste diensten tonen per stap welke sites zijn bezocht en wat er is ingevuld. Valt je iets op, zoals een site die niets met je vraag te maken had of een formulier dat je niet had verwacht, trek dan de toegang van de agent tot die dienst in en meld het bij de aanbieder. Controleer ook bij je gekoppelde accounts (Google, Microsoft, Meta) welke apps en agents toegang hebben, en haal weg wat je niet meer gebruikt.

Wij gebruiken agents graag voor saaie klussen, zoals het vergelijken van een paar aanbiedingen of het verzamelen van informatie op een handvol sites. Maar we laten ze nooit zonder toezicht dingen veranderen bij anderen. Het verhaal van Wikipedia laat zien waarom. Ook als er uiteindelijk niets kapotgaat, kost het opruimen veel tijd van mensen die daar niet om vroegen.

Wat er nu kan veranderen

Wikimedia vraagt AI-bedrijven om agents herkenbaar te maken, zodat websites kunnen zien wie er langskomt en dat verkeer kunnen beperken. Gebeurt dat, dan kan het zijn dat je agent vaker wordt tegengehouden of om een bevestiging vraagt op sites die bot-verkeer weren. Dat is minder handig, maar wel eerlijk. Wie een agent inzet, gebruikt het internet van anderen, en daar horen spelregels bij.