Esta es la razón por la que Fable 5 de Anthropic fue detenido por el gobierno de Estados Unidos

Un problema de seguridad en un nuevo modelo de inteligencia artificial ha provocado una destacada confrontación entre Amazon, Anthropic y el gobierno estadounidense. Después de que investigadores de Amazon descubrieran una vulnerabilidad en el modelo de IA Fable 5, se generó una gran inquietud en Washington. Finalmente, el gobierno decidió intervenir, obligando a Anthropic a retirar el modelo.

El incidente demuestra cuán sensible se ha vuelto el desarrollo de la inteligencia artificial. No solo para las empresas tecnológicas, sino también para los gobiernos que temen que los poderosos sistemas de IA puedan ser mal utilizados.

Amazon descubre posibles riesgos de seguridad

La discusión gira en torno a Fable 5, un nuevo modelo de IA de Anthropic. Según The Wall Street Journal, investigadores de Amazon descubrieron una manera de eludir las medidas de seguridad integradas en el sistema.

Eso podría permitir al modelo generar información que los malintencionados podrían usar para ciberataques. No está claro cuán grande era el riesgo exactamente. Sin embargo, el descubrimiento fue lo suficientemente serio para Amazon como para poner el asunto en conocimiento de los legisladores en Washington.

Además, el CEO de Amazon, Andy Jassy, habría estado personalmente involucrado. Junto con otros actores del sector tecnológico, habrían compartido preocupaciones sobre el modelo con funcionarios estadounidenses.

Lo que siguió fue una serie de reuniones urgentes dentro del gobierno sobre las posibles consecuencias si el modelo permanecía ampliamente disponible.

Anthropic y Washington, enfrentados

Según The Wall Street Journal, el gobierno de Donald Trump se puso en contacto con el director de Anthropic, Dario Amodei. El mensaje fue claro: retiren temporalmente el modelo del mercado hasta que se resuelva la vulnerabilidad.

Amodei se habría opuesto a esa solicitud, lo que hizo que la situación se intensificara rápidamente.

El gobierno estadounidense finalmente decidió imponer restricciones a las exportaciones del modelo. Como resultado, Anthropic tuvo que retirar Fable 5 el viernes por la noche.

David Sacks, copresidente del Consejo Asesor Presidencial de Ciencia y Tecnología, confirmó posteriormente que la medida estaba directamente relacionada con las preocupaciones de seguridad.

«El gobierno tomó esta decisión a regañadientes», dijo Sacks. Según él, Washington esperaba que Anthropic tomara medidas voluntariamente.

El incidente es un raro ejemplo de un gobierno interviniendo directamente en el lanzamiento de un modelo comercial de IA.

Anthropic habla de un malentendido

Anthropic niega que hubiera un grave problema de seguridad. En una reacción, la empresa afirma que las preocupaciones se basan en una interpretación errónea de los riesgos.

Según Anthropic, se trataba de una vulnerabilidad específica que solo podía ser explotada en circunstancias limitadas. La empresa enfatiza que ya está trabajando en una solución.

Amazon, mientras tanto, no quiso confirmar si realmente habló con funcionarios gubernamentales sobre el modelo. Un portavoz declaró que los gobiernos suelen solicitar asesoramiento sobre cuestiones de seguridad digital.

Según Sacks, es probable que las restricciones a la exportación se levanten una vez que Anthropic haya solucionado la vulnerabilidad.

El caso subraya lo importante que se ha vuelto la competencia mundial en inteligencia artificial. Donde las empresas tecnológicas han podido desarrollar sus modelos en gran medida con libertad durante años, Washington parece cada vez más dispuesto a intervenir cuando está en juego la seguridad nacional.