Anthropic beschuldigt Alibaba van grootschalig kopiëren van Claude via miljoenen AI-gesprekken

AI-bedrijf Anthropic beschuldigt het Chinese technologieconcern Alibaba ervan op grote schaal de mogelijkheden van chatbot Claude te hebben gekopieerd om een eigen AI-model te verbeteren. Volgens Anthropic voerden aan Alibaba gelieerde partijen tussen april en juni meer dan 28,8 miljoen gesprekken met Claude via bijna 25.000 frauduleuze accounts. Daarmee zou sprake zijn van de grootste zogenoemde distillation attack die het bedrijf tot nu toe heeft ontdekt.

Bij een distillation attack wordt een krachtig AI-model gebruikt als ‘docent’. Door enorme aantallen vragen te stellen en de antwoorden te verzamelen, kan een minder geavanceerd model leren hoe het zich moet gedragen, zonder dat het volledige ontwikkelproces opnieuw hoeft te worden doorlopen. De techniek zelf is niet verboden en wordt door AI-bedrijven ook intern toegepast, maar Anthropic stelt dat Alibaba hiervoor ongeoorloofd toegang heeft verkregen tot Claude.

“Deze campagne genereerde meer dan 28,8 miljoen gesprekken met Claude via bijna 25.000 frauduleuze accounts.” — Anthropic, in een brief aan de Amerikaanse Senaat

Niet de eerste beschuldiging

De aantijgingen sluiten aan bij eerdere waarschuwingen van Anthropic. Het bedrijf meldde eerder al dat Chinese AI-bedrijven, waaronder DeepSeek, Moonshot AI en MiniMax, op vergelijkbare wijze probeerden Claude te gebruiken om hun eigen modellen te trainen. Volgens Anthropic maakten die bedrijven gebruik van duizenden accounts en proxyservers om detectie te vermijden tijdens miljoenen interacties met de chatbot.

Volgens Anthropic is vooral zorgwekkend dat gekopieerde modellen niet automatisch de veiligheidsmaatregelen overnemen die in Claude zijn ingebouwd. Daardoor zouden krachtige AI-systemen kunnen ontstaan die minder beperkingen kennen bij gevoelige toepassingen, zoals cyberaanvallen of het ontwikkelen van schadelijke software.

De beschuldigingen zijn afkomstig uit een brief die Anthropic aan Amerikaanse senatoren stuurde. Daarin stelt het bedrijf dat de operatie werd uitgevoerd door aan Alibaba en AI-divisie Qwen gelieerde partijen, met als doel de ontwikkeling van eigen geavanceerde AI-modellen te versnellen. Anthropic roept de Amerikaanse overheid op strengere maatregelen te nemen tegen het ongeoorloofd kopiëren van AI-modellen en de export van geavanceerde AI-technologie beter te beschermen. Alibaba heeft vooralsnog niet inhoudelijk gereageerd op de beschuldigingen.