EU trekt rode lijn: verbod op AI-toepassingen die nepnaaktbeelden maken

“Apps die met AI realistische nepnaaktbeelden maken, vormen een ernstig risico voor privacy, veiligheid en menselijke waardigheid.” — Europese Commissie

Met de nieuwe regels wil de EU vooral optreden tegen zogenaamde deepfakes, waarbij artificiële intelligentie beelden creëert die echt lijken, maar volledig nep zijn. Zulke toepassingen worden steeds vaker gebruikt voor online intimidatie, chantage en reputatieschade. Daarnaast komen er strengere verplichtingen voor ontwikkelaars van AI-systemen. Bedrijven zullen duidelijk moeten aangeven wanneer content met AI is gegenereerd, terwijl systemen met een hoog risico onderworpen worden aan extra controles en veiligheidsmaatregelen.

De Europese AI-wetgeving wordt gezien als een van de eerste uitgebreide regelgevende kaders voor artificiële intelligentie wereldwijd. Europa wil innovatie mogelijk blijven maken, maar tegelijk ook fundamentele rechten en privacy beter beschermen.