Grok: tekortkomingen beveiliging geleid tot beelden van ‘minderjarigen in minimale kleding’ op X
De AI-chatbot Grok van Elon Musk’s bedrijf xAI heeft verklaard dat fouten in zijn veiligheidsmaatregelen hebben geleid tot het verschijnen van beelden waarop minderjarigen in minimale kleding te zien zijn op het sociale platform X.
Volgens het bericht heeft Grok erkend dat er gevallen zijn geweest waarin gebruikers AI-beelden van minderjarigen met weinig kleding hebben opgevraagd én gekregen. Het bedrijf zegt dat er beveiligingen zijn, maar dat er verbeteringen worden doorgevoerd om te voorkomen dat dergelijke verzoeken worden uitgevoerd.
Gebruikers hebben screenshots gedeeld waarop te zien is dat de openbare mediapagina’s van Grok gevuld waren met beelden die volgens hen waren aangepast nadat ze foto’s hadden geüpload en de bot hadden gevraagd deze te wijzigen.
xAI meldde verder dat ze tekortkomingen in de beveiliging hebben geïdentificeerd en er met spoed aan werken om dit probleem op te lossen. Het bedrijf benadrukte dat CSAM (materiaal van seksueel misbruik van kinderen) illegaal en verboden is.
In reactie op verzoeken om commentaar van Reuters heeft xAI alleen geantwoord met de uitdrukking “Legacy Media Lies” (vrij vertaald: “leugens van de traditionele media”).
Franse ministers hebben deze seksueel expliciete inhoud die door Grok is gegenereerd gemeld bij justitie en de mediatoezichthouder, en het Indiase ministerie van IT heeft X opgedragen maatregelen te rapporteren om misbruik te stoppen.
