Nvidia lanza una alianza de IA sin OpenAI, Google ni Anthropic

Nvidia ha creado junto a 36 empresas tecnológicas una nueva alianza para impulsar el código abierto en la seguridad de la IA. Llama la atención la ausencia de OpenAI, Google y Anthropic entre sus fundadores.

Según Nvidia, los modelos abiertos de IA se han vuelto esenciales a medida que los ciberataques son cada vez más sofisticados. Además, los sistemas cerrados pueden dificultar la respuesta de los investigadores ante incidentes.

Nvidia apuesta por la seguridad abierta en IA

La nueva colaboración, denominada Open Secure AI Alliance, reúne a grandes nombres del sector tecnológico. Entre sus participantes figuran Microsoft, IBM, Red Hat, Cloudflare, CrowdStrike, Palantir, Databricks, Hugging Face, SpaceXAI y la Linux Foundation.

La alianza se apoya en proyectos de código abierto ya existentes de la Linux Foundation. Su objetivo es ofrecer a los desarrolladores herramientas de seguridad de libre acceso para sistemas de IA. Según Nvidia, las organizaciones deben poder inspeccionar y modificar los modelos de IA, así como ejecutarlos en su propia infraestructura. De este modo, pueden responder con rapidez a las ciberamenazas.

OpenAI, Google y Anthropic no forman parte de la iniciativa. Es un dato relevante, ya que estas compañías están entre los mayores desarrolladores de modelos avanzados de IA. Nvidia no ofrece una razón concreta, aunque subraya las ventajas de los modelos abiertos frente a las alternativas cerradas.

Un incidente de seguridad precipitó la decisión

El detonante de la creación de la alianza fue un incidente de seguridad en la plataforma de IA Hugging Face, conocido la semana pasada. Durante una investigación interna, se comprobó que los modelos cerrados de IA tenían dificultades para distinguir entre atacantes e investigadores de seguridad. Esto complicó el análisis forense del ataque.

Hugging Face acabó recurriendo a un modelo abierto de IA del desarrollador chino Z.ai. Gracias a ello, pudo analizar más de 17.000 acciones y reconstruir el ataque.

Según Nvidia, el caso demuestra que las organizaciones necesitan tener pleno control sobre sus sistemas de IA durante un ciberataque. La compañía sostiene que, si los defensores no pueden inspeccionar, adaptar y ejecutar una IA avanzada en su propia infraestructura, su capacidad de reacción queda limitada precisamente cuando la rapidez es crucial.

Las empresas aportan sus propias herramientas de IA

Cada participante aporta su propia tecnología a la alianza. Nvidia ha lanzado NOOA, un marco de trabajo que facilita las pruebas y el control del comportamiento de los agentes de IA.

Microsoft contribuye con MDASH, un sistema en el que varios agentes de IA colaboran para detectar vulnerabilidades en el software. SpaceXAI, por su parte, ha puesto a disposición como código abierto su asistente de programación Grok Build. A más largo plazo, la compañía también quiere liberar los pesos de sus modelos Grok.

La creación de la Open Secure AI Alliance llega en un momento de aumento de los ciberataques en todo el mundo. En particular, las organizaciones que dependen de la IA y de la infraestructura en la nube buscan formas de responder con mayor rapidez y transparencia a amenazas digitales cada vez más complejas.