‘Meta wil menselijke risicobeoordelaars vervangen door AI

Uit een nieuw intern document dat werd ingezien door NPR, blijkt dat Meta van plan is om menselijke risicobeoordelaars te vervangen door kunstmatige intelligentie. Dit zou de volgende stap zijn in de verregaande automatisering binnen het bedrijf.

Tot nu toe maakte Meta gebruik van menselijke analisten om de mogelijke risico’s van nieuwe technologieën op hun platformen te evalueren. Deze beoordelingen — onderdeel van zogeheten “privacy- en integriteitsbeoordelingen” — richtten zich onder andere op veranderingen in algoritmes en veiligheidsfuncties.

Binnenkort zouden deze belangrijke beoordelingen grotendeels worden overgenomen door AI. Meta streeft ernaar om maar liefst 90 procent van dit werk te automatiseren.

Hoewel het bedrijf eerder verklaarde dat AI enkel zou worden ingezet bij “laag-risico”-producten, meldt NPR dat Meta het nu ook gebruikt bij gevoelige kwesties zoals AI-veiligheid, risico’s voor jongeren en contentintegriteit — waaronder de aanpak van misinformatie en gewelddadige inhoud.

In het nieuwe systeem vullen productteams vragenlijsten in en ontvangen ze direct aanbevelingen en risicobeoordelingen via AI, waardoor ingenieurs meer zeggenschap krijgen in het besluitvormingsproces.

Deze automatisering sluit aan bij Meta’s streven naar snellere updates en meer efficiëntie, maar volgens ingewijden kan het ook nieuwe risico’s opleveren voor miljarden gebruikers. Denk aan grotere bedreigingen voor gegevensprivacy en het onbedoeld doorlaten van schadelijke content.

In april bekrachtigde Meta’s onafhankelijke toezichtsraad deels het beleid rond het toestaan van controversiële uitingen, maar bekritiseerde tegelijkertijd de manier waarop het bedrijf contentmoderatierichtlijnen toepast.