Nvidia ha creado junto a 36 empresas tecnológicas una nueva alianza para impulsar el código abierto en la seguridad de la IA. Llama la atención la ausencia de OpenAI, Google y Anthropic entre sus fundadores.
Según Nvidia, los modelos abiertos de IA se han vuelto esenciales a medida que los ciberataques son cada vez más sofisticados. Además, los sistemas cerrados pueden dificultar la respuesta de los investigadores ante incidentes.
Nvidia apuesta por la seguridad abierta en IA
La nueva colaboración, denominada Open Secure AI Alliance, reúne a grandes nombres del sector tecnológico. Entre sus participantes figuran Microsoft, IBM, Red Hat, Cloudflare, CrowdStrike, Palantir, Databricks, Hugging Face, SpaceXAI y la Linux Foundation.
La alianza se apoya en proyectos de código abierto ya existentes de la Linux Foundation. Su objetivo es ofrecer a los desarrolladores herramientas de seguridad de libre acceso para sistemas de IA. Según Nvidia, las organizaciones deben poder inspeccionar y modificar los modelos de IA, así como ejecutarlos en su propia infraestructura. De este modo, pueden responder con rapidez a las ciberamenazas.
OpenAI, Google y Anthropic no forman parte de la iniciativa. Es un dato relevante, ya que estas compañías están entre los mayores desarrolladores de modelos avanzados de IA. Nvidia no ofrece una razón concreta, aunque subraya las ventajas de los modelos abiertos frente a las alternativas cerradas.
Un incidente de seguridad precipitó la decisión
El detonante de la creación de la alianza fue un incidente de seguridad en la plataforma de IA Hugging Face, conocido la semana pasada. Durante una investigación interna, se comprobó que los modelos cerrados de IA tenían dificultades para distinguir entre atacantes e investigadores de seguridad. Esto complicó el análisis forense del ataque.
Hugging Face acabó recurriendo a un modelo abierto de IA del desarrollador chino Z.ai. Gracias a ello, pudo analizar más de 17.000 acciones y reconstruir el ataque.
Según Nvidia, el caso demuestra que las organizaciones necesitan tener pleno control sobre sus sistemas de IA durante un ciberataque. La compañía sostiene que, si los defensores no pueden inspeccionar, adaptar y ejecutar una IA avanzada en su propia infraestructura, su capacidad de reacción queda limitada precisamente cuando la rapidez es crucial.
Las empresas aportan sus propias herramientas de IA
Cada participante aporta su propia tecnología a la alianza. Nvidia ha lanzado NOOA, un marco de trabajo que facilita las pruebas y el control del comportamiento de los agentes de IA.
Microsoft contribuye con MDASH, un sistema en el que varios agentes de IA colaboran para detectar vulnerabilidades en el software. SpaceXAI, por su parte, ha puesto a disposición como código abierto su asistente de programación Grok Build. A más largo plazo, la compañía también quiere liberar los pesos de sus modelos Grok.
La creación de la Open Secure AI Alliance llega en un momento de aumento de los ciberataques en todo el mundo. En particular, las organizaciones que dependen de la IA y de la infraestructura en la nube buscan formas de responder con mayor rapidez y transparencia a amenazas digitales cada vez más complejas.
Heineken supera las previsiones con un fuerte repunte de las ventas de cerveza
Heineken vende más cerveza de lo previsto gracias al crecimiento en Asia y América. Al mismo tiempo, su nuevo consejero delegado deberá recortar miles de puestos de trabajo.
SK Hynix multiplica por siete su beneficio e impulsa las acciones de chips en Asia
SK Hynix multiplica por siete su beneficio y reparte miles de millones entre sus accionistas. Las acciones vinculadas a la IA se disparan y persiste la escasez de chips.
Desplome de la IA china: 480.000 millones perdidos, ¿será Wall Street la siguiente?
Las empresas chinas de inteligencia artificial pierden miles de millones en bolsa. Los inversores temen que las elevadas valoraciones pongan fin al auge de la IA en Estados Unidos con un desplome similar.
Más leídos
Trump podría perder su mayoría: ¿qué supondría para la Bolsa?
Trump podría perder su mayoría. ¿Qué supondría para Wall Street? Los analistas ven grandes oportunidades en las acciones, pero advierten de los riesgos ligados a los tipos de interés.
El G7 simula ciberataques a bancos: ¿resiste el sistema a la IA?
Los países del G7 preparan simulacros de ciberataques con IA contra bancos para detectar vulnerabilidades en el sistema financiero.
Por qué se desploman las acciones de los fabricantes de chips pese al aumento de la demanda
Las acciones de los fabricantes de chips sufren fuertes caídas, mientras el repunte de la rentabilidad de los bonos acapara cada vez más atención. ¿Se acerca el fin del ciclo alcista impulsado por la inteligencia artificial?
