Anthropic slaat alarm over illegaal kopiëren van AI-modellen via het dark web

Het Amerikaanse AI-bedrijf Anthropic trekt aan de bel over een groeiende illegale praktijk in de techsector: het op grote schaal kopiëren van geavanceerde taalmodellen. Buitenlandse concurrenten, voornamelijk uit China, omzeilen beveiligingen via het dark web om met behulp van gestolen gegevens goedkope imitaties van modellen zoals Claude te bouwen.

Het proces staat in de AI-wereld bekend als 'destillatie'. Hierbij stelt een kleiner AI-model vragen aan een krachtig, bestaand model om met die antwoorden de eigen functionaliteit snel en goedkoop te verbeteren. Hoewel destillatie onder strikte licentievoorwaarden legaal kan plaatsvinden, spreekt Anthropic in dit geval van diefstal van intellectueel eigendom.

Illegaal ecosysteem via het dark web

Volgens Jacob Klein, hoofd threat intelligence bij Anthropic, is er een compleet illegaal ecosysteem ontstaan om toegang te krijgen tot AI-technologie. Kwaadwillenden kopen op het dark web gestolen creditcardgegevens en gecompromitteerde accounts op.

Met deze gegevens worden vervolgens tientallen tot honderdduizenden nepaccounts aangemaakt. Via geautomatiseerde systemen stellen deze accounts continu vragen aan het Claude-model. De gegenereerde antwoorden dienen vervolgens als trainingsdata voor de concurrentie.

Anthropic wijst onder meer naar de Chinese startup Moonshot AI, die met het model Kimi K3 snel terrein won. Volgens Klein is Kimi K3 illegaal getraind op de nieuwste versie van Claude. Ook organisaties als DeepSeek, MiniMax en techgigant Alibaba (met de Qwen-modellen) worden door Anthropic en sectorgenoten als OpenAI en Google beschuldigd van grootschalige destillatie-aanvallen.

Omzeiling van sancties en veiligheidsrisico's

De dreiging blijft niet beperkt tot China. Ook actoren uit landen waar Amerikaanse AI-diensten vanwege sancties geblokkeerd zijn — zoals Rusland, Iran en Noord-Korea — maken gebruik van deze illegaal verkregen toegang.

Volgens beveiligingsexpert Travis Lanham van Armadin is het voor AI-bedrijven lastig om deze misbruikpatronen direct te stoppen. Omdat grote AI-labs dagelijks miljarden aanvragen verwerken, verdwijnen de frauduleuze verzoeken gemakkelijk in de enorme hoeveelheid normaal dataverkeer.

Naast de financiële schade waarschuwt Anthropic voor risico's rond nationale veiligheid. De gekloonde modellen worden vaak uitgebracht zonder de ingebouwde veiligheidsfilters en guardrails van het origineel. Dit vergroot het risico op misbruik voor kwaadwillige doeleinden, zoals grootschalige spionage of toepassingen in biologische wapenprogramma's.