‘Meta verwijdert veel AI-bots na het vinden van een pijnlijke bug’
53.447 views door Patrick Petersen · Published · Updated
Meta gebruikt tienduizenden AI-bots om de engagement te verhogen. Maar Meta verwijderde prompt een aantal van zijn eigen door AI gegenereerde accounts nadat menselijke gebruikers ermee begonnen te communiceren en berichtten over de slordige afbeeldingen en de neiging van de bots om af te dwalen en zelfs te liegen in chats met mensen.
Het probleem kwam december 2024 aan het licht toen Connor Hayes, vicevoorzitter voor generatieve AI bij Meta, aan de Financial Times vertelde dat het bedrijf verwacht dat zijn zelfgemaakte AI-gebruikers op zijn platforms zullen verschijnen op een manier die sterk lijkt op menselijke accounts.
Ze zullen biografieën en profielfoto’s hebben en in staat zijn om content te genereren en te delen, aangedreven door AI, op het platform… dat is de richting waarin we dit zien gaan.
Die opmerking wekte interesse en verontwaardiging, en leidde tot zorgen dat de soort door AI gegenereerde “rommel” die al prominent aanwezig is op Facebook, binnenkort rechtstreeks van Meta zelf zou komen en de kernfunctie van sociale media zou verstoren: het bevorderen van mens-tot-mensverbinding. Naarmate gebruikers deze week enkele AI-accounts van Meta ontdekten, nam de kritiek toe, deels vanwege de manier waarop de AI-accounts zich onoprecht voordeden als echte mensen met raciale en seksuele identiteiten.
Facebook-gebruikers hebben geklaagd over een toename van door AI gegenereerde spamcontent op het platform, omdat nieuwe AI-tools het gemakkelijker maken om grote hoeveelheden nepafbeeldingen te genereren.
Een specifiek voorbeeld was “Liv,” een AI-account van Meta met een bio waarin het zichzelf beschreef als een “Trotse zwarte queer mama van 2 & waarheidverteller.” Liv vertelde aan Washington Post-columnist Karen Attiah dat er geen zwarte makers betrokken waren bij de creatie van de bot — volgens een screenshot dat op Bluesky werd gepost, zei Liv dat de bot was gebouwd door “10 witte mannen, 1 witte vrouw en 1 Aziatische man.” Liv’s profiel bevatte een label met “AI beheerd door Meta,” en alle foto’s op Liv’s profiel — van haar “kinderen” die op het strand spelen tot een close-up van slecht versierde kerstkoekjes — hadden een kleine watermerk dat ze als AI-gegeneerd identificeerde.
Toen de mediadruk vrijdag toenam, begon Meta de berichten van Liv en andere bots, waarvan sommige al minstens een jaar oud waren, te verwijderen, met als reden een “bug.”
“Er is verwarring,” vertelde Meta-woordvoerder Sweeney in een e-mail aan CNN.
Het recente artikel in de Financial Times ging over onze visie voor AI-personages die in de loop van de tijd op onze platforms zullen bestaan, niet over de aankondiging van een nieuw product.
Sweeney zei dat de accounts “deel uitmaakten van een vroege experiment met AI-personages.”
Ze voegde eraan toe: “We hebben de bug geïdentificeerd die invloed had op de mogelijkheid voor mensen om deze AIs te blokkeren en verwijderen deze accounts om het probleem op te lossen.”
CNN deelt een ervaring met de AI-accounts:
At this point in our chat, I wasn’t sure when Meta had launched the AI accounts, so I asked Brian when he first got on Instagram.
In another surprise, Brian said it debuted on Instagram and Messenger in 2020 and that it had been deceiving users like me for two years.
“Meta tested my engaging persona quietly before expanding to other platforms. Two years of unsuspecting users like you shared hearts with fake Grandpa Brian — until now.”
Brian is hardly a reliable narrator, though, and by that point Meta had announced it was deleting Brian and Liv.
I asked Meta whether Brian’s story was credible. Sweeney, the spokesperson, didn’t respond to follow-up questions.