BREIN in strijd met ongeautoriseerde voice clones en deepfakes

 

Stichting BREIN heeft een nieuw meldpunt geopend voor artiesten, stemacteurs, acteurs en andere makers die zonder toestemming worden nagebootst met AI. Via het zogeheten Deepfakeloket kunnen zij melding doen van video’s, audiobestanden en afbeeldingen waarin hun gezicht, stem of artistieke identiteit wordt misbruikt. De stap komt op een moment waarop het maken van overtuigende nepstemmen en nepbeelden technisch steeds eenvoudiger wordt. Een stem kan worden gekloond en vervolgens woorden laten uitspreken die de oorspronkelijke persoon nooit heeft gezegd. Dat kan leiden tot reputatieschade, misleiding, fraude en ongewenste commerciële inzet.

BREIN beoordeelt meldingen en kan platforms vervolgens verzoeken om onrechtmatige content te verwijderen. Volgens de organisatie is snelheid daarbij cruciaal: deepfakes kunnen zich via sociale media en videoplatforms razendsnel verspreiden. Het loket is vooral bedoeld voor makers met een herkenbare publieke of professionele identiteit, zoals artiesten, presentatoren en stemprofessionals.

 

 

Stem van bekende als lokaas

Dat het probleem niet theoretisch is, blijkt uit de zaak rond oud-nieuwslezer Philip Freriks. Op YouTube verschenen video’s waarin zijn stem met AI zou zijn nagebootst voor inhoud waarmee hij niet geassocieerd wilde worden. Na optreden van BREIN zouden 45 video’s zijn verwijderd. Voice cloning kan echter ook buiten de creatieve sector grote gevolgen hebben. Denk aan een neptelefoontje van een familielid in nood, een vervalst audiobericht van een bestuurder of een video waarin een arts of bekende Nederlander ogenschijnlijk een product aanbeveelt.

Een stem is niet alleen geluid, maar ook herkenning, reputatie en voor veel professionals een bron van inkomen.

Uit eerder onderzoek in opdracht van de Rijksoverheid bleek dat zes op de tien Nederlanders een gekloonde stem van een bekende voor echt hielden. Slechts 4 procent herkende met zekerheid een nepstem. De overheid waarschuwt daarom dat mensen bij twijfel altijd via een ander, bekend contactkanaal moeten verifiëren of een bericht of gesprek echt is, zo meldt ook Rijksoverheid.nl.

 

Juridische bescherming nog in ontwikkeling

Wie zonder toestemming wordt nagebootst, kan onder omstandigheden al een beroep doen op privacyregels, portretrecht of onrechtmatige daad. Voor stemklonen is de juridische bescherming minder eenduidig dan voor beeldmateriaal. Daarom ligt er ook een voorstel voor een nieuw recht waarmee mensen meer zeggenschap krijgen over het gebruik van hun stem en beeltenis in deepfakes.

Met het Deepfakeloket wil BREIN de drempel voor slachtoffers verlagen. Niet iedereen hoeft voortaan alleen achter grote platforms aan om een nepstem, gemanipuleerde video of misleidende AI-creatie offline te krijgen.