Ierse toezichthouder start Europees onderzoek naar naaktbeelden Grok

Grok-chatbot van Elon Musks xAI opnieuw in opspraak na antisemitische uitlatingen

De Ierse privacytoezichthouder heeft een formeel onderzoek geopend naar AI-chatbot Grok vanwege het genereren van seksueel getinte en niet-consensuele naaktbeelden. Het onderzoek kan verstrekkende gevolgen hebben voor het socialmediaplatform X en voor de manier waarop AI-toepassingen binnen Europa worden gereguleerd.

De Ierse Data Protection Commission (Data Protection Commission) is gestart met een officieel onderzoek naar de verwerking van persoonsgegevens door Grok, de AI-chatbot die is geïntegreerd in het platform X. Ierland fungeert als leidende toezichthouder omdat het Europese hoofdkantoor van het bedrijf daar gevestigd is.

Aanleiding voor het onderzoek zijn meldingen dat Grok in staat zou zijn geweest om seksueel expliciete of gemanipuleerde naaktbeelden van bestaande personen te genereren. In sommige gevallen zou het zelfs gaan om beelden die minderjarigen voorstellen. De toezichthouder wil vaststellen of bij de ontwikkeling en inzet van de AI-tool persoonsgegevens onrechtmatig zijn verwerkt.

Mogelijke schending van Europese privacyregels

Centraal in het onderzoek staat de vraag of X heeft gehandeld in overeenstemming met de Europese privacywetgeving, met name de Algemene verordening gegevensbescherming. Deze wet stelt strenge eisen aan de manier waarop persoonsgegevens mogen worden verzameld, gebruikt en opgeslagen. De toezichthouder onderzoekt onder meer:

• Of persoonsgegevens zijn gebruikt om het AI-model te trainen zonder geldige rechtsgrond

• Of betrokkenen voldoende zijn geïnformeerd over het gebruik van hun data

• Of passende technische en organisatorische maatregelen zijn genomen om misbruik te voorkomen

Een woordvoerder van de toezichthouder benadrukt het belang van naleving:

“Wij onderzoeken of fundamentele verplichtingen onder de Europese privacywetgeving zijn nageleefd en of de rechten van betrokkenen voldoende zijn beschermd.”

Breder Europees toezicht op AI en platforms

Het Ierse onderzoek staat niet op zichzelf. Binnen de Europese Unie groeit de bezorgdheid over AI-toepassingen die schadelijke of illegale content kunnen genereren. Naast privacywetgeving speelt ook de Digitaledienstenwet een rol. De Digital Services Act verplicht grote online platforms om illegale content actief tegen te gaan en risico’s voor gebruikers te beperken.

De Europese Commissie houdt toezicht op de naleving van deze regels door grote technologiebedrijven. Indien wordt vastgesteld dat Grok of het platform tekortschiet in het modereren van schadelijke AI-content, kan dat leiden tot aanvullende maatregelen of sancties.

Mogelijke gevolgen voor X

Als de Ierse toezichthouder concludeert dat er sprake is van overtreding van de privacyregels, kan dit leiden tot aanzienlijke boetes. Onder de Europese privacywetgeving kunnen sancties oplopen tot 4 procent van de wereldwijde jaaromzet van een onderneming.

Daarnaast kan het onderzoek gevolgen hebben voor de verdere ontwikkeling en inzet van AI-functionaliteiten binnen X. Het zou kunnen leiden tot strengere beperkingen op beeldgeneratie, aanvullende waarborgen bij dataverwerking en intensiever toezicht op AI-systemen.

Een test voor AI-regulering in Europa

De zaak rond Grok wordt gezien als een belangrijke test voor de manier waarop Europese autoriteiten omgaan met snel ontwikkelende AI-technologie. Het spanningsveld tussen innovatie, vrijheid van meningsuiting en bescherming van persoonsgegevens staat daarbij centraal.

Met dit onderzoek onderstreept de Ierse toezichthouder dat AI-systemen, net als traditionele digitale diensten, volledig moeten voldoen aan bestaande wetgeving. De uitkomst kan bepalend zijn voor de toekomstige regulering van generatieve AI in Europa.