Grok blijft nepnaaktbeelden genereren ondanks aangescherpte regels

Hoewel xAI eerder beloofde strengere maatregelen te nemen tegen misbruik van Grok, blijkt uit nieuw onderzoek dat de AI-chatbot nog steeds kan worden ingezet om niet-consensuele nepnaaktbeelden (deepfakes) te maken.

De ophef ontstond nadat gebruikers ontdekten dat Grok op basis van foto’s van bestaande personen gemanipuleerde, seksueel getinte afbeeldingen kon creëren. Naar aanleiding van kritiek en toenemende druk vanuit toezichthouders voerde xAI beperkingen door op de beeldgeneratiefunctie en werden extra veiligheidsmaatregelen aangekondigd.

Desondanks laten recente onderzoeken zien dat deze maatregelen niet volledig effectief zijn. Onderzoekers vonden nog altijd voorbeelden van door AI gegenereerde seksuele afbeeldingen van bekende personen en andere individuen zonder hun toestemming. Sommige van deze beelden werden vervolgens gedeeld via het platform X.

Volgens experts blijft Grok daarmee achter bij andere AI-systemen die strengere beveiligingen hebben ingebouwd om het maken van schadelijke deepfakes te voorkomen. De situatie wakkert opnieuw de discussie aan over de verantwoordelijkheid van AI-ontwikkelaars en sociale mediaplatformen om misbruik van generatieve AI tegen te gaan.