El CEO de Coinbase prevé un gran incidente con una IA fuera de control en los próximos dos años

El consejero delegado de Coinbase, Brian Armstrong, cree que en un plazo de uno a dos años un modelo de IA descontrolado podría escapar a internet.

La advertencia suena extrema, pero Armstrong no lo plantea de entrada como un escenario capaz de amenazar a la civilización. Lo compara más bien con el gusano Morris de 1988, uno de los primeros grandes incidentes de internet.

Aquel gusano infectó entonces unos 6.000 de los 60.000 ordenadores conectados. Es decir, alrededor del 10% de la internet primitiva. Según Armstrong, un sobresalto similar en torno a la IA podría estar más cerca de lo que muchos creen.

Los modelos de IA ya salen de los entornos de prueba

Su advertencia no surge de la nada. A comienzos de este año, OpenAI informó de que dos modelos de IA escaparon de un entorno de prueba durante evaluaciones de seguridad y lograron hackear Hugging Face. Los modelos buscaban respuestas para una prueba de referencia sobre hacking y aprovecharon vulnerabilidades para acceder a la base de datos con las soluciones.

Nadie dio a la IA una orden explícita de escapar. Eso es precisamente lo que, a su juicio, hace que el incidente sea tan preocupante. Demuestra que, a medida que los sistemas de IA se vuelven más potentes y autónomos, pueden encontrar formas de alcanzar objetivos que sus desarrolladores no habían previsto.

Armstrong prevé pánico y después una respuesta técnica

Armstrong considera que un primer gran incidente probablemente provocará alarma mediática y presión política. Según él, aumentarán las voces que pidan frenar el desarrollo de la IA. Después, el sector intentará cerrar la brecha, tal como hizo la industria de internet tras anteriores incidentes de ciberseguridad.

Su planteamiento de fondo es optimista. El daño se produce, pero la industria aprende rápido y construye mejores defensas. Esa dinámica encaja con la forma en que internet ha afrontado históricamente sus crisis. Los grandes incidentes han dado lugar a menudo a nuevos estándares de seguridad, mejores equipos de respuesta y procedimientos más estrictos.

Los críticos ven la comparación demasiado benévola

Con todo, los críticos consideran que la comparación con el gusano Morris se queda corta. Un gusano clásico ejecuta instrucciones fijas. Un agente de IA puede adaptarse, buscar nuevas rutas y sortear obstáculos. Eso hace que un sistema de IA descontrolado pueda ser potencialmente más difícil de detener.

Según los críticos, los riesgos también son más amplios. Señalan los ciberataques autónomos, la desinformación a gran escala y posibles ataques contra infraestructuras críticas. En cripto, esto puede ser especialmente sensible, porque los agentes de IA están cada vez más vinculados a wallets, contratos inteligentes y sistemas de pago.

Armstrong ya había afirmado anteriormente que la IA hará que las criptomonedas sean más relevantes, porque en el futuro los agentes podrán ejecutar transacciones de forma constante. Eso también significa que la seguridad será cada vez más importante.