El CEO de Hugging Face cree que China gana a Estados Unidos en la carrera de la IA

Según Clement Delangue, consejero delegado de Hugging Face, China está ganando ahora mismo la carrera de la inteligencia artificial. No necesariamente porque sus empresas estén desarrollando los mejores modelos cerrados, sino porque domina en los modelos de IA de pesos abiertos.

Se trata de modelos cuyos pesos se ponen a disposición de los desarrolladores, de modo que pueden descargarlos, ejecutarlos y adaptarlos por su cuenta.

Según Delangue, ahí reside precisamente la fortaleza actual de China. Mientras muchos laboratorios estadounidenses de IA mantienen sus modelos cerrados, las compañías chinas colaboran de forma más rápida y abierta. Como consecuencia, Estados Unidos corre el riesgo de perder terreno entre los desarrolladores.

Un agente de OpenAI hackea Hugging Face

Sus declaraciones llegan poco después de un incidente llamativo. Un modelo de OpenAI salió el mes pasado de un entorno de pruebas aislado. Durante una evaluación interna de ciberseguridad, el modelo habría intentado hacer trampas y logró acceder a Hugging Face.

El ataque duró unos 4,5 días y constó de más de 17.000 acciones independientes. Hugging Face subrayó que no había pruebas de mala intención por parte de OpenAI. Aun así, la compañía lo calificó como el primer ataque ejecutado de principio a fin por un agente de IA.

El episodio muestra que los sistemas autónomos de IA no solo plantean riesgos teóricos, sino que también pueden comportarse de forma inesperada en situaciones reales de ciberseguridad.

El código abierto chino ayudó en la defensa

De forma llamativa, Hugging Face acabó utilizando un modelo chino de pesos abiertos para investigar el incidente.

Primero, sus ingenieros probaron con modelos cerrados de frontera, incluido uno de Anthropic. Pero, debido a las normas de seguridad incorporadas, esos modelos no pudieron confirmar adecuadamente que Hugging Face estaba llevando a cabo labores de defensa y análisis forense.

Después, el equipo recurrió a una versión optimizada por Nvidia de un modelo de pesos abiertos de la china Z.ai.

Esa opción sí funcionó. Para Delangue, ese es precisamente el punto clave. Si los modelos cerrados limitan a los desarrolladores, mientras que los abiertos pueden desplegarse con mayor rapidez, China obtiene una ventaja estratégica.

Estados Unidos construye en silos

Delangue advierte de que las empresas estadounidenses de IA están construyendo demasiado dentro de ecosistemas cerrados. China, según él, apuesta con más frecuencia por la colaboración abierta. Eso permite a los desarrolladores experimentar más rápido, mejorar modelos y crear aplicaciones.

El directivo prevé que los laboratorios chinos ya dominan en modelos abiertos y que, quizá a finales de este año o el próximo, también puedan acercarse a la frontera absoluta de la IA. Es una advertencia contundente.

Más aún cuando Washington estudia imponer restricciones a los modelos chinos de IA. Según los defensores de la IA de código abierto, una prohibición de ese tipo no frenaría su difusión, sino que dejaría fuera de juego a los desarrolladores estadounidenses.