Strengere App Store-regels tegen nepnaaktapps: wat je op je iPhone merkt
Inhoudsopgave
Wat er in de nieuwe regels staat
Er veranderen drie dingen. In de eerste plaats verbiedt Apple in regel 1.2 nu uitdrukkelijk apps die zonder toestemming intieme beelden met AI maken. Apps die zelf beeld laten maken of laten delen, moeten zulke deepfakes actief tegenhouden en weghalen als ze toch opduiken.
Ten tweede komt er een nieuwe regel 2.5.19. Die richt zich op een truc die al langer wordt gebruikt. Een app doet zich bij de keuring voor als een onschuldige fotobewerker, en zodra hij in de winkel staat, verschijnt er via een update een functie om mensen digitaal uit te kleden. Dat heet ook wel bait-and-switch. Wie dat doet, riskeert dat de app verdwijnt en dat zijn ontwikkelaarsaccount bij Apple wordt opgezegd. Apple schrijft er zelf bij dat het niet aarzelt om apps te verwijderen en de makers erachter eruit te zetten.
Ten derde breidt Apple het verbod op apps die mensenhandel of kinderuitbuiting mogelijk maken uit naar alternatieve manieren om apps te verspreiden. Dat is in Europa relevant, omdat je hier sinds de Europese regels voor techplatforms ook apps buiten de App Store om kunt installeren.
Waarom Apple dit nu doet
De aanleiding ligt volgens MacRumors deels bij Grok, de chatbot van xAI. Die werd gebruikt om nepnaaktbeelden te maken, en Apple dreigde de app uit de winkel te halen. Er kwamen extra beveiligingen in, waarna een nieuwe versie werd goedgekeurd. Dat het probleem breder is dan één app, schreven we vorige week al. Ook nieuwe AI-modellen bleken met de juiste vraag toch naaktbeelden te maken, zo bleek uit onderzoek naar hoe lek de veiligheidsfilters zijn.
Daarnaast zit er druk vanuit Europa achter. Apps die nepnaaktfoto’s maken, zijn vanaf 2 december in de EU verboden. De nieuwe App Store-regels gelden wereldwijd en lopen daarmee in de pas. Voor Nederlandse gebruikers vallen beide straks samen. Wat de wet verbiedt, haalt Apple ook uit zijn winkel.
Wat je op je iPhone merkt
Gebruik je gewone AI-beeldapps, zoals een app om een achtergrond weg te halen, een oude foto op te knappen of een avatar te maken, dan merk je waarschijnlijk niets. Die apps blijven gewoon beschikbaar. Wel moeten apps waarin gebruikers zelf beelden genereren en delen, strenger modereren. Het kan dus gebeuren dat zo’n app vaker een opdracht weigert of een beeld tegenhoudt dat er volgens jou onschuldig uitziet. Dat is de prijs van een strengere filter.
Het meest merk je het als je een app hebt die opeens van karakter verandert na een update. Valt je op dat een simpele fotobewerker ineens functies krijgt die er bij het downloaden niet waren, zeker als het om lichamen en kleding gaat, dan is dat precies wat Apple nu wil aanpakken. Verwijder zo’n app en meld hem bij Apple, zodat de keuring er opnieuw naar kijkt.
Ben je ouder van een kind met een iPhone, dan is dit een goed moment om de instellingen voor schermtijd en app-aankopen na te lopen. Strengere regels helpen, maar de ervaring leert dat er altijd apps zijn die even door de keuring glippen. Een kind dat eerst toestemming moet vragen voor een nieuwe app, loopt minder risico dan een kind dat alles zelf kan installeren.
Wordt er van jou of iemand die je kent een nepnaaktbeeld gemaakt of verspreid, dan is dat in Nederland strafbaar. Bewaar het bewijs en meld het bij de politie. Bij Helpwanted kun je terecht voor hulp om zulke beelden offline te laten halen.
