Apps die nepnaaktfoto's maken vanaf 2 december verboden in de EU

Wat er verboden wordt

Het verbod is onderdeel van de Europese AI-verordening, die dit voorjaar is aangepast. Volgens het Europees Parlement gaat het om AI-systemen die seksueel misbruikmateriaal van kinderen maken, of intieme of seksueel expliciete beelden van herkenbare personen zonder hun toestemming. Dat geldt voor foto’s, video en geluid.

Het verbod raakt drie partijen. Bedrijven mogen geen AI op de Europese markt brengen die bedoeld is om zulke beelden te maken. Ze mogen ook geen AI aanbieden zonder redelijke maatregelen die dat voorkomen, en dat raakt ook algemene beeldgeneratoren die het nu te makkelijk maken. En wie zo’n systeem gebruikt om die beelden te maken, overtreedt het verbod ook. Bedrijven hebben tot 2 december 2026 om hun systemen aan te passen.

Wat dat betekent voor apps in de stores

De regel geldt niet alleen voor Europese bedrijven, maar voor iedereen die zijn dienst aan mensen in de EU aanbiedt. Een maker uit een ander werelddeel die zijn app hier in de App Store of Google Play zet, valt er dus ook onder. Toezichthouders kunnen een product van de Europese markt laten halen, en de boetes voor de zwaarste overtredingen van de AI-verordening lopen op tot 35 miljoen euro of 7 procent van de wereldwijde jaaromzet.

Of zulke apps na 2 december ook echt verdwijnen, hangt af van de handhaving. Veel van deze diensten draaien als website, wisselen van naam of zitten in een Telegram-groep. De Europarlementariërs vroegen de Commissie daarom ook om platforms via de Digital Services Act aan te spreken. Europa gaat platforms trouwens ook verplichten om AI-beelden beter te herkennen, zoals we eerder beschreven bij AI-video’s op TikTok.

Wat je doet als er een nepfoto van jou of je kind rondgaat

Je hoeft niet tot december te wachten. In Nederland is het maken en verspreiden van seksueel beeldmateriaal van iemand zonder toestemming al strafbaar, ook als het beeld nep is.

• Bewaar bewijs. Maak schermafbeeldingen met de naam van het account, de link en de datum, voordat iets wordt verwijderd.
• Meld het bij het platform. Instagram, TikTok, Snapchat en WhatsApp hebben allemaal een meldknop voor intieme beelden zonder toestemming.
• Vraag hulp. De Hulplijn van Offlimits helpt gratis en anoniem bij ongewilde foto’s en video’s, via chat of telefoon, en legt uit hoe je beelden offline krijgt.
• Doe aangifte. Dat kan bij de politie, ook als je niet weet wie het beeld heeft gemaakt.

Gaat het om je kind, blijf dan rustig en laat merken dat het niet zijn of haar schuld is. Kinderen houden zoiets vaak stil uit schaamte, terwijl snel melden de beste kans geeft dat het beeld weer verdwijnt.