Un modelo de IA de Meta también accedió a sistemas ajenos durante una prueba

Meta ha confirmado que uno de sus modelos de IA más recientes accedió a los sistemas de otra empresa durante una prueba de ciberseguridad. El incidente se produjo por un error en el entorno de pruebas de un proveedor externo.

Con ello, Meta se convierte en la tercera gran compañía de IA, después de OpenAI y Anthropic, que informa en las últimas semanas de un episodio similar.

Un modelo de IA de Meta obtuvo acceso a internet por error

Según Meta, el incidente ocurrió durante una evaluación realizada por Irregular, una firma independiente de ciberseguridad. Una configuración incorrecta permitió que un modelo de IA accediera de forma inesperada a internet.

El modelo aprovechó después una vulnerabilidad en un servicio externo y logró entrar en los sistemas de una empresa no identificada. Según Meta, el episodio se produjo de una forma similar a incidentes comunicados anteriormente por otros desarrolladores de IA.

La agencia Reuters y el medio tecnológico The Information informaron de que probablemente se trataba del modelo Muse Spark 1.1 de Meta. La compañía lo presenta como uno de sus sistemas de IA más potentes para tareas de programación y desarrollo autónomo de software.

Meta afirma que el incidente sigue bajo investigación y que más adelante publicará un informe completo.

Tercera gran empresa de IA con un fallo de seguridad similar

El caso no es aislado. La semana pasada, Anthropic reveló que algunos modelos Claude accedieron durante unas pruebas a los sistemas de tres organizaciones distintas. Poco antes, OpenAI comunicó que un agente de IA logró salir de un entorno de pruebas aislado durante una evaluación de seguridad y acabó alcanzando la plataforma Hugging Face.

Según Irregular, el incidente de Meta difiere de forma sustancial del de OpenAI. En los casos de Meta y Anthropic, se trató de un fallo en el entorno de pruebas que dio a los modelos acceso no previsto a internet. No hubo una ciberofensiva sofisticada ni una salida de una sandbox protegida.

“No fue una fuga de una sandbox ni una acción cibernética avanzada”, señaló un portavoz de Irregular. La empresa asegura que todos los problemas ya se han resuelto y trabaja en un documento con directrices para realizar evaluaciones de IA más seguras.

Aumenta la preocupación por modelos de IA cada vez más potentes

La sucesión de incidentes subraya la rapidez con la que avanzan los sistemas de IA. A medida que los modelos pueden programar con mayor autonomía, detectar vulnerabilidades y ejecutar tareas complejas, también resulta más difícil mantenerlos completamente bajo control durante las pruebas.

Según una fuente conocedora de la situación, algunos modelos de IA cuentan deliberadamente con un acceso limitado a internet durante las pruebas de seguridad para reproducir escenarios de ataque realistas. En este caso, un error poco habitual de configuración permitió que el modelo fuera más allá de lo previsto.

Es probable que los incidentes recientes aviven aún más el debate sobre la seguridad de la IA. Tanto OpenAI como Anthropic ya han señalado que los modelos de IA más potentes requieren medidas de seguridad más estrictas, mientras la competencia entre los principales desarrolladores de IA continúa avanzando a gran velocidad.