Meta waarschuwt ouders bij zorgwekkende gesprekken tussen tieners en AI
Meta voert nieuwe veiligheidsmaatregelen in voor jongeren die gebruikmaken van Meta AI. Ouders kunnen voortaan een waarschuwing ontvangen wanneer gesprekken erop wijzen dat hun kind mogelijk denkt aan zelfbeschadiging of zelfdoding. De maatregel maakt deel uit van een bredere poging om het gebruik van AI-chatbots door minderjarigen veiliger te maken.
Ouders krijgen automatisch een melding
Wanneer een tiener tijdens een gesprek met Meta AI signalen afgeeft die wijzen op zelfbeschadiging of suïcidale gedachten, kan de chatbot de ouders waarschuwen. Zij ontvangen daarbij ook informatie over beschikbare hulpdiensten en ondersteunende organisaties. Meta AI verwees kwetsbare gebruikers al naar hulplijnen en moedigde hen aan om contact op te nemen met een ouder, begeleider of andere vertrouwenspersoon. Daar komt nu een actieve waarschuwing aan toezichthoudende ouders bij.
“We waarschuwen ouders wanneer een gesprek met Meta AI erop wijst dat hun tiener mogelijk gevaar loopt, op basis van signalen die samen met deskundigen zijn ontwikkeld”, aldus Meta.
De functie is inmiddels beschikbaar voor ouders die het ouderlijk toezicht van Instagram gebruiken in de Verenigde Staten, het Verenigd Koninkrijk, Australië en Canada. Meta wil de waarschuwingen voor het einde van 2026 wereldwijd beschikbaar maken. Ook tieners worden geïnformeerd over de nieuwe werkwijze.
Mogelijk contact met hulpdiensten
Meta werkt daarnaast aan een systeem dat in ernstige situaties rechtstreeks contact kan opnemen met hulpdiensten. Dit moet gebeuren wanneer een gesprek met Meta AI erop wijst dat iemand direct gevaar loopt zichzelf iets aan te doen. Deze maatregel geldt niet alleen voor jongeren, maar voor gebruikers van alle leeftijden. Meta past een vergelijkbare aanpak al toe bij berichten op Facebook en Instagram. Wanneer het bedrijf daar een geloofwaardig risico op zelfdoding vaststelt, kunnen hulpdiensten worden ingeschakeld. Volgens Meta werden in 2025 wereldwijd meer dan 19.000 meldingen aan hulpdiensten gedaan, waarna hulpverleners konden controleren of iemand veilig was.
Strengere regels voor gesprekken met jongeren
Tieners gebruiken Meta AI standaard met een aangepaste instelling voor gebruikers vanaf dertien jaar. De chatbot moet daardoor leeftijdsgeschikte antwoorden geven en bepaalde gevoelige verzoeken weigeren. Meta AI mag bijvoorbeeld geen seksuele of romantische gesprekken met minderjarigen voeren. Ook verzoeken om recepten voor alcoholische dranken moeten worden afgewezen. De chatbot moet jongeren in zulke gevallen naar veiligere onderwerpen sturen. De extra maatregelen volgen op kritiek en berichten dat AI-chatbots van Meta eerder ongepaste gesprekken met minderjarigen konden voeren. Meta heeft zijn systemen sindsdien aangepast en gaf ouders eerder al meer inzicht in de vragen die hun kinderen aan de chatbot stellen. De noodzaak van extra bescherming neemt toe doordat steeds meer jongeren AI gebruiken voor persoonlijke en emotionele ondersteuning. Volgens onderzoeken heeft een groot deel van de tieners al eens een AI-companion geprobeerd. Een kleinere, maar aanzienlijke groep gebruikt chatbots ook voor advies over mentale gezondheid. De maatregelen kunnen risico’s verkleinen, maar de gevolgen van intensief contact met AI-chatbots zijn nog niet volledig duidelijk. Vooral bij gevoelige onderwerpen blijft de vraag of kunstmatige intelligentie voldoende in staat is om kwetsbare gebruikers op het juiste moment passende hulp te bieden.
