Meta onder vuur: hoe konden misbruikadvertenties door de controle glippen?

 

 

Meta ligt opnieuw zwaar onder vuur nadat uit berichtgeving van de BBC bleek dat advertenties voor materiaal met seksueel misbruik van kinderen op Meta-platforms in India konden verschijnen. Volgens het onderzoek werden gebruikers via deze advertenties doorgestuurd naar Telegram-kanalen waar illegaal materiaal werd aangeboden. Advertenties met duidelijke signalen werden toch goedgekeurd

De advertenties zouden termen hebben gebruikt die duidelijk wezen op misbruikmateriaal. Toch werden ze aanvankelijk niet door Meta’s controlesystemen tegengehouden. Nadat de BBC de advertenties bij Meta meldde, kreeg de omroep eerst te horen dat de advertenties niet in strijd waren met de richtlijnen. Kort daarna verwijderde Meta de promoties alsnog.

India vraagt Meta om uitleg

Lokale autoriteiten in India hebben Meta inmiddels om uitleg gevraagd. Zij willen weten hoe zulke advertenties door het advertentiecontrolesysteem konden glippen, zeker gezien de ernstige en illegale aard van de inhoud.

“Geen enkel systeem is perfect en overtredingen kunnen soms onopgemerkt blijven.”
— Meta, volgens berichtgeving van BBC / Social Media Today

Zorgen over AI-moderatie nemen toe

De zaak komt op een gevoelig moment voor Meta. Het bedrijf zet steeds sterker in op kunstmatige intelligentie om moderatie en andere interne processen te automatiseren. Meta heeft niet bevestigd of AI-systemen betrokken waren bij het goedkeuren van deze advertenties. Het incident vergroot de zorgen over Meta’s afhankelijkheid van AI, vooral wanneer het gaat om de bescherming van kinderen en het opsporen van schadelijke of illegale content. Critici vrezen dat verdere automatisering van moderatie risico’s met zich meebrengt als menselijke controle wordt verminderd. Voor Meta kan deze kwestie grote reputatieschade opleveren. Als het bedrijf er niet in slaagt om gebruikers, en vooral minderjarigen, effectief te beschermen, kan dat leiden tot strengere regelgeving, meer druk van overheden en verdere twijfels over de betrouwbaarheid van zijn AI-gedreven moderatiesystemen.