De nieuwe sociale app van OpenAI, Sora, trekt veel aandacht – maar niet op de manier die het bedrijf waarschijnlijk had gehoopt. Het platform staat inmiddels vol met hyperrealistische deepfakes van CEO Sam Altman, wat tot groeiende bezorgdheid leidt over de impact van deze technologie.

De app Sora toont realistische nepvideo’s van Altman

Sora is ontworpen om gebruikers korte, creatieve video’s te laten maken met behulp van AI. Al snel ontdekten gebruikers dat het systeem opvallend goed is in het genereren van levensechte video’s van bekende personen. Sam Altman zelf werd daarbij het populairste doelwit. Zijn digitale dubbelgangers duiken in grote aantallen op binnen de app en worden massaal gedeeld.

Gebruikers kunnen eigen ‘cameo’ laten genereren

Een van de functies die Sora onderscheidt, is de mogelijkheid voor gebruikers om een ‘cameo’ van zichzelf of anderen te laten maken. Daarmee kunnen ze AI-versies van mensen in willekeurige scenario’s plaatsen, van grappige sketches tot bizarre filmpjes. Hoewel dit creatieve kansen biedt, maakt het ook de drempel laag om misleidende of denigrerende content te creëren.

Bezorging over misbruik en ethiek van deepfakes

De populariteit van de Altman-deepfakes legt de kwetsbaarheid bloot van bekende personen in het tijdperk van generatieve AI. Critici waarschuwen dat de technologie eenvoudig kan worden misbruikt voor desinformatie, reputatieschade of intimidatie. Het feit dat zelfs de CEO van het bedrijf achter de app slachtoffer is, versterkt de discussie over hoe veilig en verantwoord dergelijke platforms eigenlijk zijn.

Veilingsmaatregelen van OpenAI onder de loep

OpenAI zegt maatregelen te nemen om misbruik te beperken, maar de effectiviteit daarvan staat ter discussie. Het bedrijf benadrukt dat gebruikersrichtlijnen streng worden gehandhaafd en dat schadelijke inhoud wordt verwijderd. Toch lijkt de snelle opkomst van Altman-deepfakes te laten zien dat handhaving moeilijk bij te benen is. Voor veel experts roept dit de vraag op of het überhaupt mogelijk is om dit soort technologieën in toom te houden zonder creativiteit en vrijheid drastisch in te perken.