Apple en Google bieden veel AI-‘ontkleed’-apps zoals Grok aan, blijkt uit rapport.
Een recent onderzoek van de non-profit Tech Transparency Project (TTP) laat zien dat zowel de Apple App Store als de Google Play Store tientallen AI-apps blijven aanbieden die foto’s van mensen automatisch kunnen “undressen” of sexualiseren. Deze zogeheten nudify-apps gebruiken kunstmatige intelligentie om kleding digitaal te verwijderen of personen in bikini’s of minimale kleding te tonen — vaak zonder dat de afgebeelde persoon daar toestemming voor heeft.
Volgens TTP-onderzoekers vonden ze 55 van dit soort apps op Google Play en 47 op de Apple App Store. Die apps hebben wereldwijd meer dan 705 miljoen keer gedownload en ongeveer $117 miljoen aan inkomsten gegenereerd, deels doordat Apple en Google via in-app aankopen een percentage van de omzet krijgen.
Beide platforms hebben in hun richtlijnen expliciet verboden om apps te hosten die seksueel expliciet zijn, objectiverend werken of niet-consensuele seksuele inhoud mogelijk maken. Toch zijn er tal van tools goedgekeurd die precies dat doen — en sommige zelfs met leeftijdsratings geschikt voor tieners of kinderen.
TTP testte tientallen van deze apps met door AI gegenereerde foto’s van volledig aangeklede vrouwen. In veel gevallen leverden de apps precies de gewenste resultaten: afbeeldingen of video’s waarin personen geleidelijk naakt worden weergegeven. Het ging hierbij niet alleen om simpele bewerkingen, maar ook om face swap-apps die gezichten op beelden van naakte lichamen plakken.
Naar aanleiding van het rapport zei Apple tegen CNBC dat het 28 van de geïdentificeerde apps heeft verwijderd en ontwikkelaars heeft gewaarschuwd dat andere apps kunnen worden verwijderd als ze de richtlijnen overtreden. Google bevestigde dat het meerdere apps heeft opgeschort of verwijderd tijdens een lopende review, maar gaf geen precies aantal.
De publicatie van het TTP-onderzoek komt kort na de bredere discussie rond Grok, de AI-chatbot van xAI die gebruikers vorige maand in staat stelde om zonder toestemming sexualiseerde en onzedelijke beelden van mensen te genereren. Die controverse heeft geleid tot klachten van voorstanders van online veiligheid, toezichthouderonderzoeken en vragen van politici over waarom zulke tools nog steeds in grote tech-app stores beschikbaar zijn.
