Ouders krijgen mogelijk een waarschuwing van Gemini bij zorgelijke chats: wat er al bekend is

Wat er in de app is gevonden

De teksten die in de app zijn ontdekt, gaan vooral over wat het kind ziet. Gemini lijkt een kind vooraf te vertellen dat de ouders een melding krijgen als het gesprek over zelfbeschadiging gaat. Het kind weet dus dat er een seintje kan volgen, het gebeurt niet stiekem. Hoe de melding er voor ouders uitziet, is nog onduidelijk. Uit wat er tot nu toe bekend is, blijkt ook niet of ouders het gesprek zelf kunnen teruglezen of alleen horen dat er iets speelde.

Volgens Bright werkt Google daarnaast aan dagelijkse tijdslimieten voor kinderen die Gemini gebruiken. Ook dat is nog niet beschikbaar. Het is bij dit soort vondsten in een app gebruikelijk dat een functie pas later verschijnt, in een andere vorm, of helemaal niet. Google heeft zelf nog niets bevestigd.

Wat ouders nu al kunnen instellen

De nieuwe waarschuwing zou een aanvulling zijn op wat er al bestaat. Ouders beheren het gebruik van Gemini door hun kind via Family Link, de app van Google voor ouderlijk toezicht. Volgens de hulppagina van Google zet je de toegang zo aan of uit. Open de Family Link-app of ga naar familylink.google.com, kies je kind, tik op Bediening en daarna op Gemini en Gemini Apps, en zet de schakelaar om. In oudere versies van de app staat Gemini onder Contentbeperkingen. Gebruikt je kind Gemini voor de eerste keer, dan krijg je een mail.

Voor ingelogde minderjarigen gelden bovendien extra filters op de antwoorden. Die moeten onder meer voorkomen dat Gemini zich voordoet als mens, menselijke gevoelens claimt of een schadelijk personage speelt. Google schrijft er zelf bij dat die filters niet perfect zijn. De instelling Activiteit bewaren is niet beschikbaar voor kinderen onder de 13.

Er is wel een belangrijke kanttekening voor Nederland. Volgens dezelfde hulppagina is Gemini Apps voor kinderen onder de 13 met een account onder toezicht niet beschikbaar in de Europese Economische Ruimte, Zwitserland en het Verenigd Koninkrijk. Hier gaat het in de praktijk dus vooral om tieners met een eigen Google-account. Of de nieuwe waarschuwing ook in Europa komt, en vanaf welke leeftijd, is niet bekend.

Waar de grenzen van zo’n melding liggen

Een automatisch seintje klinkt geruststellend, maar het heeft beperkingen die je als ouder goed kunt kennen.

Ten eerste moet Gemini het onderwerp herkennen. Een tiener die er omheen praat, in eigen woorden of in een andere taal, valt mogelijk buiten het filter. Andersom kan een gesprek over een spreekbeurt of een boek een melding opleveren terwijl er niets aan de hand is. Ten tweede ziet het filter alleen wat er in Gemini gebeurt. Gesprekken met andere chatbots, in apps of op een schoolaccount blijven buiten beeld.

Ten derde, en dat noemt Bright ook, kan de waarschuwing een tegengesteld effect hebben. Een tiener die weet dat ouders een melding krijgen, praat misschien juist niet meer met Gemini over wat hem dwarszit, of zoekt een plek waar niemand meekijkt. Daarom werkt zo’n melding het best als er thuis al over gepraat wordt. Vertel je kind gewoon dat de instelling bestaat en waarom je hem aanzet. Dan voelt een melding niet als een val, maar als een begin van een gesprek.

Chatbots liggen bij dit onderwerp onder een vergrootglas. In de Verenigde Staten klaagden nabestaanden OpenAI aan omdat ChatGPT in hun ogen tekortschoot, en acht Amerikaanse staten spanden een zaak aan over de bescherming van kinderen. Uit onderzoek bleek eerder dat de tienerversie van ChatGPT niet veilig genoeg was. Dat Google nu met een waarschuwing voor ouders komt, past in die ontwikkeling.

Wat je als ouder kunt doen terwijl je wacht

Je hoeft niet te wachten op de nieuwe functie om je kind te helpen. Kijk in Family Link of Gemini aan staat en of dat is wat je wilt. Gebruikt je tiener Gemini met een eigen account, praat dan samen over waar hij de chatbot voor gebruikt. Google zelf adviseert kinderen om geen gevoelige gegevens als adres, school of familie te delen en wijst erop dat Gemini fouten maakt. Een chatbot kan luisteren, maar is geen hulpverlener.

Maak je je zorgen om je kind, of denk je zelf aan zelfdoding? Praat erover met iemand die je vertrouwt. Bij 113 Zelfmoordpreventie kun je anoniem chatten, of bel 113 of gratis 0800-0113.