Google, Microsoft y xAI de Elon Musk permitirán al gobierno estadounidense examinar sus modelos más recientes de inteligencia artificial. Los tres gigantes tecnológicos otorgarán a Washington acceso anticipado a sus sistemas más poderosos, para que los científicos del gobierno puedan evaluarlos en busca de riesgos para la seguridad nacional antes de que el público los utilice.
Tres gigantes abren sus puertas
El Centro para Estándares e Innovación en Inteligencia Artificial (CAISI), parte del Departamento de Comercio de Estados Unidos, anunció los acuerdos ayer en un comunicado. Las tres empresas proporcionarán modelos de vanguardia, que son los sistemas de inteligencia artificial más avanzados que aún no están disponibles en el mercado.
«La ciencia de medición independiente y rigurosa es esencial para comprender la inteligencia artificial de vanguardia y sus implicaciones para la seguridad nacional,» señaló Chris Fall, director de CAISI.
«Estas colaboraciones amplias con la industria nos ayudan a intensificar nuestro trabajo en beneficio del público en un momento crucial.»
La razón inmediata se encuentra en la competencia con Anthropic. El mes pasado, esta empresa reveló que su nuevo modelo Claude Mythos demostró una eficacia sorprendente en la detección de vulnerabilidades en ciberseguridad.
Esto encendió las alarmas en Washington. Mozilla logró identificar y corregir 271 vulnerabilidades en su navegador Firefox gracias a Mythos. Por ello, Anthropic decidió no lanzar el modelo de manera amplia, sino compartirlo solo con un grupo selecto de socios.
OpenAI y Anthropic ya colaboraban voluntariamente con CAISI para que sus modelos no lanzados al mercado fueran evaluados en busca de vulnerabilidades. Ahora, el grupo se amplía considerablemente.
¿Qué buscan los científicos?
La atención se centra en amenazas concretas. Los científicos se enfocan en el riesgo de que modelos avanzados sean utilizados para ciberataques contra la infraestructura estadounidense.
También quieren evitar que adversarios usen la inteligencia artificial para desarrollar armas químicas o biológicas, o corrompan los datos con los que se entrena la inteligencia artificial estadounidense.
Los desarrolladores suelen entregar sus modelos sin los filtros de seguridad habituales, lo que permite a CAISI un acceso detallado. El centro ya ha realizado más de cuarenta evaluaciones.
Trump cambia de rumbo
Es un cambio notable para el presidente Donald Trump, quien siempre insistió en minimizar las regulaciones para el sector de la inteligencia artificial. En su primer día de trabajo, anuló un decreto de su predecesor Joe Biden de 2023, que obligaba a los desarrolladores a compartir pruebas de seguridad con el gobierno antes de su lanzamiento público.
Según The New York Times, la Casa Blanca conversó la semana pasada con líderes de Anthropic, Google y OpenAI sobre un nuevo decreto. Este establecería un grupo de trabajo para revisar modelos avanzados antes de su lanzamiento. Con este paso, parece que Trump busca imponer ciertos controles a su propio ‘preciado proyecto’.
Musk amenaza con represalias a los demócratas que quieren investigarlo tras las elecciones
Elon Musk amenaza con represalias si los demócratas lo investigan tras las elecciones. Su papel en Starlink y DOGE está en el punto de mira.
Meta revela compromisos por 825.000 millones de dólares y sus acciones se desploman
Las acciones de Meta caen un 7% pese a sus sólidos resultados. Los compromisos por 825.000 millones de dólares vinculados a la IA inquietan a los inversores, que se apresuran a vender sus títulos.
El jefe de Citadel alerta de una burbuja en la IA y compara los chips con asientos de avión
¿Se recuperarán algún día los miles de millones invertidos en chips para IA? Ken Griffin, al frente de Citadel, lo pone en duda y compara los chips con asientos vacíos de avión.
Más leídos
Trump podría perder su mayoría: ¿qué supondría para la Bolsa?
Trump podría perder su mayoría. ¿Qué supondría para Wall Street? Los analistas ven grandes oportunidades en las acciones, pero advierten de los riesgos ligados a los tipos de interés.
El G7 simula ciberataques a bancos: ¿resiste el sistema a la IA?
Los países del G7 preparan simulacros de ciberataques con IA contra bancos para detectar vulnerabilidades en el sistema financiero.
Wall Street teme otro lunes negro: ¿se avecina un desplome bursátil?
Wall Street teme otro lunes negro tras las fuertes caídas en bolsa. El retroceso de los valores ligados a la IA, el encarecimiento del petróleo y la inflación generan inquietud.
