EU wil AI-apps die mensen ‘uitkleden’ volledig verbieden

Europese toezichthouders werken aan een voorstel om zogeheten AI-“nudification apps” te verbieden. Dit zijn toepassingen die met kunstmatige intelligentie foto’s kunnen aanpassen zodat mensen er naakt of seksueel expliciet uitzien, zonder dat zij daarvoor toestemming hebben gegeven.

De maatregel maakt deel uit van bredere aanpassingen aan de Europese AI-regels. Aanleiding is de snelle opkomst van dit soort technologie en de toenemende zorgen over misbruik. Zulke apps worden steeds vaker gebruikt om nepbeelden van echte personen te maken, wat kan leiden tot ernstige gevolgen voor slachtoffers.

Volgens beleidsmakers vormen deze toepassingen een duidelijke schending van privacy en fundamentele rechten. Ze kunnen bijdragen aan intimidatie, reputatieschade en emotioneel leed, en treffen vaak vrouwen en minderjarigen. Daarom willen Europese wetgevers deze technologie indelen in de strengste risicocategorie, wat neerkomt op een volledig verbod binnen de EU.

Het voorstel sluit aan bij bredere inspanningen om schadelijke vormen van AI, zoals seksuele deepfakes, aan banden te leggen. Tegelijkertijd probeert de EU een balans te vinden tussen innovatie en bescherming, door duidelijke grenzen te stellen aan hoe AI gebruikt mag worden.

“AI mag niet worden ingezet om mensen te vernederen of uit te buiten,” aldus Europese beleidsmakers in het voorstel (Social Media Today).