El gobierno de EE. UU. evaluará los modelos de IA de Google, Microsoft y xAI

Google, Microsoft y xAI de Elon Musk permitirán al gobierno estadounidense examinar sus modelos más recientes de inteligencia artificial. Los tres gigantes tecnológicos otorgarán a Washington acceso anticipado a sus sistemas más poderosos, para que los científicos del gobierno puedan evaluarlos en busca de riesgos para la seguridad nacional antes de que el público los utilice.

Tres gigantes abren sus puertas

El Centro para Estándares e Innovación en Inteligencia Artificial (CAISI), parte del Departamento de Comercio de Estados Unidos, anunció los acuerdos ayer en un comunicado. Las tres empresas proporcionarán modelos de vanguardia, que son los sistemas de inteligencia artificial más avanzados que aún no están disponibles en el mercado.

«La ciencia de medición independiente y rigurosa es esencial para comprender la inteligencia artificial de vanguardia y sus implicaciones para la seguridad nacional,» señaló Chris Fall, director de CAISI.

«Estas colaboraciones amplias con la industria nos ayudan a intensificar nuestro trabajo en beneficio del público en un momento crucial.»

La razón inmediata se encuentra en la competencia con Anthropic. El mes pasado, esta empresa reveló que su nuevo modelo Claude Mythos demostró una eficacia sorprendente en la detección de vulnerabilidades en ciberseguridad.

Esto encendió las alarmas en Washington. Mozilla logró identificar y corregir 271 vulnerabilidades en su navegador Firefox gracias a Mythos. Por ello, Anthropic decidió no lanzar el modelo de manera amplia, sino compartirlo solo con un grupo selecto de socios.

OpenAI y Anthropic ya colaboraban voluntariamente con CAISI para que sus modelos no lanzados al mercado fueran evaluados en busca de vulnerabilidades. Ahora, el grupo se amplía considerablemente.

¿Qué buscan los científicos?

La atención se centra en amenazas concretas. Los científicos se enfocan en el riesgo de que modelos avanzados sean utilizados para ciberataques contra la infraestructura estadounidense.

También quieren evitar que adversarios usen la inteligencia artificial para desarrollar armas químicas o biológicas, o corrompan los datos con los que se entrena la inteligencia artificial estadounidense.

Los desarrolladores suelen entregar sus modelos sin los filtros de seguridad habituales, lo que permite a CAISI un acceso detallado. El centro ya ha realizado más de cuarenta evaluaciones.

Trump cambia de rumbo

Es un cambio notable para el presidente Donald Trump, quien siempre insistió en minimizar las regulaciones para el sector de la inteligencia artificial. En su primer día de trabajo, anuló un decreto de su predecesor Joe Biden de 2023, que obligaba a los desarrolladores a compartir pruebas de seguridad con el gobierno antes de su lanzamiento público.

Según The New York Times, la Casa Blanca conversó la semana pasada con líderes de Anthropic, Google y OpenAI sobre un nuevo decreto. Este establecería un grupo de trabajo para revisar modelos avanzados antes de su lanzamiento. Con este paso, parece que Trump busca imponer ciertos controles a su propio ‘preciado proyecto’.