Reken erop dat elke AI gehackt kan worden, zegt Microsoft: wat jij nu instelt

Dat klinkt als iets voor IT-afdelingen. Maar het principe is ook voor jou als gewone gebruiker nuttig. Hieronder lees je wat Nadella bedoelt en welke instellingen je nu zelf nakijkt.

Wat Nadella bedoelt met gecompromitteerd

Gecompromitteerd betekent niet dat iemand al bij jouw ChatGPT-account heeft ingebroken. Het gaat erom dat een AI-model zich anders kan gedragen dan de bedoeling is. Dat kan doordat iemand het bewust misleidt, of doordat het model zelf iets onverwachts doet. Nadella zei volgens persbureau Bloomberg dat je krachtige modellen moet behandelen als een mogelijke dreiging van binnenuit, zoals een medewerker die je niet helemaal kunt vertrouwen.

De bekendste manier om een model te misleiden heet prompt injection. Daarbij staan er verborgen instructies in een webpagina, mail of document. Leest een chatbot of agent die tekst, dan voert hij de instructie soms uit alsof jij hem gaf. Hoe verder een AI in je bestanden, mail en accounts kan kijken, hoe meer schade zo’n truc kan doen.

Dat het geen theorie is, bleek onlangs nog toen een AI-model van Anthropic een valse tip aan de politie gaf, zoals we beschreven in ons stuk over de neptip van een chatbot.

Wat je nu instelt

De gedachte achter Nadella’s noodrem vertaalt zich voor gewone gebruikers naar één regel. Geef een AI niet meer toegang dan hij voor de taak nodig heeft. Deze instellingen kijk je daarvoor na.

• Koppelingen en apps. In ChatGPT, Claude en Gemini kun je diensten koppelen, zoals je mail, agenda of Google Drive. Ga in de instellingen naar het overzicht van gekoppelde apps en ontkoppel alles wat je niet regelmatig gebruikt.
• Toegang tot bestanden in Windows. Copilot kan in Windows steeds meer met je bestanden. Wat je daar wel en niet toestaat, lees je in ons stuk over Copilot en je bestanden.
• Geheugen. Chatbots onthouden steeds meer over je. In ChatGPT vind je dat onder Personalisatie in de instellingen. Kijk wat er is opgeslagen en wis wat er niet hoort. Een geheugen vol persoonlijke details is een aantrekkelijk doelwit.
• Bevestiging bij agents. Gebruik je een agent die taken uitvoert, laat hem dan altijd vragen voordat hij iets verstuurt, koopt of verwijdert. Dat is de noodrem op kleine schaal.
• Je account zelf. Zet tweestapsverificatie aan op elk AI-account. Gestolen accounts worden doorverkocht, en hoe je dat voorkomt, staat in ons artikel over je chatbotaccount beveiligen.

Wat je liever niet meer doet

Naast instellingen helpt het om een paar gewoontes aan te passen. Laat een AI geen onbekende webpagina’s of mails samenvatten en daarna meteen iets doen op basis van die inhoud. Lees eerst zelf mee. Plak geen wachtwoorden, pincodes of volledige bankgegevens in een chat. En wees extra kritisch op een samenvatting die je ineens aanraadt ergens op te klikken of iets te downloaden. Juist dat is een bekend teken van een verborgen instructie.

Op het werk geldt hetzelfde, maar dan met meer op het spel. Gebruik daar alleen de AI-tools die je werkgever heeft goedgekeurd, zodat er iemand meekijkt naar de beveiliging.

Een handige gewoonte is een vaste controle eens per kwartaal. Loop dan in elke chatbot die je gebruikt de gekoppelde apps, het geheugen en de actieve sessies op andere apparaten na. Zie je een apparaat dat je niet kent, log het dan uit en wijzig je wachtwoord. Het kost een kwartier en het voorkomt dat er koppelingen blijven hangen die je ooit voor één klus aanzette en daarna vergat. Die vergeten koppelingen zijn precies het soort open deur waar Nadella op doelt.

Een eerlijke waarschuwing, geen reden om te stoppen

Dutch Cowboys plaatst er een terechte kanttekening bij. Topmannen roepen om regels en voorzichtigheid, terwijl hun bedrijven net zo hard doorbouwen. Wij lezen Nadella’s bericht daarom vooral als een eerlijke beschrijving van hoe het nu is. AI-modellen zijn krachtig, maar niet onfeilbaar en niet altijd voorspelbaar. Wie ze gebruikt alsof het een slimme maar onervaren stagiair is, met beperkte sleutels en iemand die meekijkt, haalt er het meeste uit met het minste risico.