Anthropic elimina un rastreador oculto de Claude Code tras las críticas

Anthropic ha retirado un sistema de seguimiento oculto de Claude Code, su asistente de programación con IA, después de que un investigador de seguridad descubriera que el software vigilaba a los usuarios sin avisar. La función buscaba evitar abusos del servicio, pero generó críticas porque Anthropic nunca informó a los usuarios de que realizaba esos controles.

El hallazgo fue realizado por el desarrollador Thereallo, que en junio analizó el funcionamiento interno de Claude Code. Durante su investigación encontró instrucciones ocultas con las que la IA comprobaba, entre otras cosas, si los usuarios se conectaban mediante un proxy o una vía de acceso no oficial. El software también buscaba indicios de que el servicio pudiera estar siendo utilizado por empresas chinas de IA.

Los controles ocultos buscaban prevenir abusos

Según Thereallo, el sistema estaba diseñado para evitar usos indebidos de Claude Code. El software comprobaba, entre otras cuestiones, la presencia de revendedores de API no autorizados, vías de acceso alternativas e intentos de copiar la tecnología que sustenta Claude.

Para ello, Claude Code analizaba ajustes personalizados de la API y nombres de dominio vinculados a empresas de IA como DeepSeek y Zhipu.

El investigador considera comprensible que Anthropic quiera proteger su tecnología, pero sostiene que la compañía debería haber informado de ello con transparencia a los usuarios.

No se trata de una función maliciosa, pero sí de una decisión llamativa para una herramienta de desarrollo que depende de la confianza.

Según Thereallo, los controles se ocultaban además mediante marcas especiales Unicode y listas de dominios codificadas. La función no aparecía mencionada en la documentación ni en las notas de la versión.

Anthropic lo califica de experimento temporal

Anthropic confirmó la existencia de la función. El ingeniero Thariq Shihipar explicó en X que el sistema se incorporó en marzo como un experimento para combatir el abuso de cuentas por parte de revendedores no autorizados y proteger mejor Claude Code frente a intentos de copiar el modelo de IA.

Según Shihipar, la empresa ya contaba con otras medidas de seguridad, por lo que los controles ocultos dejaron de ser necesarios. La función, aseguró, ya estaba prevista para su eliminación y ha sido retirada por completo de la versión más reciente de Claude Code.

Aumenta la batalla contra la destilación de IA

El caso muestra hasta qué punto la destilación de IA se ha convertido en un asunto sensible dentro del sector. Esta técnica consiste en utilizar las respuestas de un modelo de IA existente para entrenar uno nuevo. Aunque es habitual en el ámbito de la investigación, las empresas de IA temen que sus competidores la empleen para replicar modelos comerciales de forma más rápida y barata.

Anthropic acusó a comienzos de año a DeepSeek, Moonshot AI y MiniMax de haber recopilado millones de respuestas de Claude mediante cuentas fraudulentas. Otras compañías también están tomando medidas. Alibaba, por ejemplo, prohibió este mes el uso de Claude Code dentro de la empresa por motivos de seguridad.

Además, Elon Musk afirmó en abril que xAI utilizó parcialmente modelos de OpenAI durante el desarrollo del chatbot Grok. Según numerosos expertos, la destilación de IA es ya una técnica ampliamente utilizada en el sector.