Anthropic acusa a Alibaba de "robar" datos de Claude y ha enviado una carta a funcionarios de la Casa Blanca.

Según una copia de la carta obtenida por Bloomberg el 24 de junio, Anthropic envió una carta a varios senadores estadounidenses y funcionarios de la Casa Blanca acusando a entidades relacionadas con el laboratorio Qwen de Alibaba de haber iniciado cerca de 25.000 cuentas falsas entre abril y junio para realizar un total de 28,8 millones de conversaciones con Claude, extrayendo sistemáticamente datos de entrenamiento sobre ingeniería de software y capacidades centrales de Claude, calificando esto como un «ataque de destilación adversarial».

Anthropic acusa a Qwen de 28,8 millones de conversaciones dirigidas precisamente a la ingeniería de software

El patrón de ataque: una gran cantidad de cuentas falsas formulaban preguntas a Claude, recopilaban respuestas y las utilizaban para entrenar los modelos de la serie Qwen. En la carta, Anthropic explica que el objetivo no eran consultas aleatorias, sino que apuntaban con precisión a las dos capacidades más competitivas de Claude: la ingeniería de software y el razonamiento agéntico (la capacidad de la IA para planificar múltiples pasos de forma autónoma y ejecutar tareas complejas como un agente).

Anthropic afirma que este modus operandi es idéntico al de DeepSeek y MiniMax, mencionados en su publicación de blog, y lo califica como un ataque de destilación «sistemático, a gran escala e industrial». En la carta se define claramente: estos ataques «roban capacidades de IA de los laboratorios fronterizos estadounidenses de manera ilegal, sistemática y a escala industrial, y las reempaquetan como productos propios sin asumir los costos de entrenamiento e investigación y desarrollo».

Anthropic, OpenAI y Google establecen un intercambio de inteligencia tripartito y solicitan al gobierno que aclare las directrices antimonopolio

Anthropic, OpenAI y Google han formado una alianza tripartita para compartir información sobre infracciones de destilación detectadas por cada uno, lo que indica que la preocupación de la industria estadounidense ha pasado de incidentes aislados a una postura de defensa colectiva. En la carta, Anthropic también solicita al gobierno de EE.UU. que ayude a aclarar las directrices antimonopolio pertinentes para que las empresas estadounidenses puedan compartir más libremente información sobre ataques de destilación.

Anthropic reconoce en la carta que la empresa también ha destilado sus propios modelos anteriores al entrenar a Claude. La línea entre «destilarse a sí mismo» y «destilar a otros» sigue sin estar clara legalmente; la destilación en sí se utiliza ampliamente en la industria, y si es ilegal o no depende de la escala y la intención, no de la técnica en sí.

El Senado planea presentar una enmienda; la Cámara ya impulsa un proyecto de ley bipartidista

Ambas cámaras del Congreso de EE.UU. ya tienen legisladores tomando medidas. En el Senado, los senadores republicano Bill Hagerty y demócrata Andy Kim planean presentar una enmienda que exija la inclusión en listas negras o sanciones contra empresas chinas que destilen ilegalmente resultados de IA estadounidense. En la Cámara de Representantes, Bill Huizenga y Sydney Kamlager-Dove ya han impulsado un proyecto de ley bipartidista similar. Ambas propuestas están previstas para ser incluidas en la Ley de Autorización de Defensa Nacional (NDAA) anual.

Preguntas frecuentes

¿Qué es un «ataque de destilación adversarial» y en qué se diferencia de la destilación de modelos común?

La destilación de modelos es una técnica que permite a un modelo pequeño aprender las capacidades de un modelo grande, ampliamente utilizada en la comunidad de investigación de IA. El problema radica en la escala y la intención: el comportamiento que Anthropic acusa implica el uso de cerca de 25.000 cuentas falsas para realizar 28,8 millones de consultas industrializadas en tres meses, apuntando con precisión a capacidades centrales competitivas, lo que excede el alcance permitido por los términos de servicio de los principales laboratorios de IA.

¿Cuáles son las solicitudes específicas de Anthropic en la carta al Congreso de EE.UU.?

En la carta, Anthropic solicita al gobierno de EE.UU. que tome dos acciones: imponer sanciones o incluir en listas negras a las empresas chinas que destilen ilegalmente resultados de IA estadounidense; y aclarar las directrices antimonopolio para permitir que las principales empresas de IA de EE.UU. compartan más libremente información sobre ataques de destilación, a fin de establecer un mecanismo de defensa colectiva más eficaz.

¿Está clara actualmente la situación legal de los ataques de destilación en EE.UU.?

Actualmente, sigue sin estar clara a nivel legal. La destilación en sí no es completamente ilegal; la industria generalmente la permite a pequeña escala y bajo la premisa de no desarrollar competidores. Anthropic también reconoce en la carta que ha destilado sus propios modelos anteriores y ha solicitado explícitamente al gobierno de EE.UU. que ayude a aclarar los límites legales correspondientes.