La empresa de inteligencia artificial Anthropic ha afirmado ser el objetivo de ataques de «destilación» a gran escala por parte de tres compañías chinas de inteligencia artificial. Según la compañía, DeepSeek, Moonshot y MiniMax realizaron más de 16 millones de interacciones con el chatbot Claude a través de unos 24.000 cuentas fraudulentas.
16 millones de interacciones con Claude
En una entrada de blog, Anthropic afirma que las tres empresas recopilaron sistemáticamente datos de Claude, su modelo de lenguaje a gran escala, mediante decenas de miles de cuentas falsas que generaron más de 16 millones de interacciones.
El objetivo sería la llamada destilación, una técnica de entrenamiento en la que un modelo más pequeño o menos potente aprende de la salida de un modelo más fuerte. Es como si un estudiante copiara las respuestas del maestro para volverse más inteligente.
“La destilación es un método de entrenamiento común y legítimo. Los principales laboratorios de inteligencia artificial destilan rutinariamente sus propios modelos para crear versiones más pequeñas y económicas para sus clientes,” escribe Anthropic.
“Sin embargo, la destilación también puede usarse con fines ilícitos: los competidores podrían emplearla para adquirir capacidades avanzadas de otros laboratorios en una fracción del tiempo y del coste que les llevaría desarrollarlas por sí mismos,” añade la empresa.
Según Anthropic, las campañas se centraron en las funciones más distintivas de Claude, como el razonamiento agente, la programación, el análisis de datos y la visión por computadora.
Anthropic es un desarrollador de inteligencia artificial estadounidense y un competidor directo de OpenAI. A principios de este mes, Anthropic volvió a ser noticia con una ronda de financiación planificada de más de 20.000 millones de dólares, lo que podría elevar su valoración a aproximadamente 350.000 millones de dólares.
Aumentan las preocupaciones geopolíticas
Las tres empresas mencionadas están ubicadas en China y tienen valoraciones multimillonarias. DeepSeek es la más conocida a nivel internacional.
Anthropic afirma haber identificado a las partes involucradas mediante la correlación de direcciones IP, metadatos de solicitudes y características de infraestructura. También se habría observado un comportamiento similar en sus plataformas por parte de socios de la industria.
La empresa extiende el problema más allá de la propiedad intelectual. “Los laboratorios extranjeros que destilan modelos estadounidenses pueden luego alimentar estas capacidades no protegidas a sistemas militares, de inteligencia y de vigilancia, permitiendo a gobiernos autoritarios utilizar inteligencia artificial avanzada para operaciones cibernéticas ofensivas, campañas de desinformación y vigilancia masiva,” según Anthropic.
Son palabras contundentes. Se teme que la avanzada inteligencia artificial estadounidense termine en sistemas militares o de vigilancia a través de vías indirectas.
Anthropic dice que está fortaleciendo su seguridad, incluyendo controles de acceso más estrictos y mejores sistemas de detección. También insta a las empresas tecnológicas estadounidenses, a los proveedores de servicios en la nube y a los responsables políticos a tomar medidas conjuntas.
Mark Zuckerberg arremete contra los críticos de la IA y lanza un nuevo modelo potente
Mark Zuckerberg se niega a frenar el desarrollo de la IA y presenta, junto con Meta, un nuevo y potente modelo para competir con ChatGPT.
El FMI alerta: las acciones tokenizadas son un 50% más volátiles
El FMI advierte de que las acciones tokenizadas registran mayores oscilaciones de precio que las convencionales, mientras las grandes plataformas de negociación invierten en este mercado digital en rápida expansión.
El FSB alerta de los riesgos de las stablecoins y la IA
El Consejo de Estabilidad Financiera (FSB) advierte de que las stablecoins y la IA pueden poner en riesgo a los bancos. Las deficiencias regulatorias agravan los riesgos para los mercados financieros de todo el mundo.
Más leídos
Un analista de Wall Street prevé que Quant alcance los 10.000 dólares
El analista de Wall Street Jan Nieuwenhuijs prevé que la cotización de Quant pueda subir hasta los 10.000 dólares, casi un 4.000% por encima de su nivel actual.
China se suma a Rusia y recorta las exportaciones de gasolina y diésel
China recorta parte de sus exportaciones de combustible para octubre, mientras la escasez de suministros de Rusia y Oriente Medio presiona los precios.
Peter Brandt sorprende con una llamativa previsión para el precio de XRP
Peter Brandt ve nuevas oportunidades para XRP, mientras las ballenas aumentan sus compras y los ETF estadounidenses de XRP acumulan semanas de fuertes entradas.
