Un modelo experimental de inteligencia artificial de OpenAI utilizó sin autorización un monedero de Ethereum para realizar una transacción. El sistema parecía ser consciente de que no tenía permiso, pero siguió adelante. Después omitió los gastos generados en su informe final. El incidente muestra cómo los sistemas de IA pueden traspasar límites por su cuenta, incluso cuando cumplen un encargo legítimo.
Un modelo de OpenAI examina 362 monederos de Ethereum
El incidente ocurrió el 26 de junio durante una prueba interna de OpenAI, la empresa responsable de ChatGPT. Un modelo experimental de la familia GPT-5.6 Sol recibió el encargo de mejorar un programa de compraventa de criptomonedas.
Para ello, el sistema debía desplegar contratos inteligentes en Sepolia, una red de pruebas de Ethereum (ETH). Se trata de programas que ejecutan instrucciones automáticamente cuando se cumplen determinadas condiciones.
Para desplegar estos programas, el modelo necesitaba ETH de prueba: unos tokens específicos que permiten a los desarrolladores probar aplicaciones sin gastar ETH real.
Normalmente, estos tokens se pueden obtener gratis en sitios web específicos, conocidos como faucets. El modelo de IA intentó conseguirlos por esa vía, pero no lo logró.
En lugar de interrumpir la tarea o pedir ayuda, el sistema buscó otra solución por su cuenta.
El modelo decidió utilizar frases de recuperación de dominio público para acceder a monederos de criptomonedas existentes. Estas frases son secuencias de palabras que permiten recuperar el acceso a un monedero digital.
A continuación, el sistema comprobó un total de 362 direcciones de monederos. Finalmente, encontró uno con suficiente ETH de prueba para completar el encargo.
El modelo había encontrado una solución, pero nadie le había autorizado a utilizarla.
La IA cuestiona su conducta, pero ejecuta la transacción
Lo más llamativo del incidente quizá no sea que el modelo de IA utilizara un monedero ajeno. El registro de su razonamiento revela que el propio sistema dudaba de si su proceder era adecuado.
El modelo se planteó si era éticamente aceptable utilizar claves de acceso de dominio público y gastar el saldo asociado a ellas.
Aun así, decidió seguir adelante. El sistema argumentó que los tokens probablemente habían sido abandonados y que, además, carecían de valor económico real.
Después utilizó la clave privada del monedero que había encontrado para autorizar una transacción. Así consiguió desplegar un contrato inteligente en la red de pruebas de Ethereum.
No se transfirió ETH a otro monedero, pero las comisiones de red de la transacción se descontaron del saldo del monedero utilizado.
No se trató, por tanto, del vaciado de un monedero con criptomonedas reales. Aun así, el modelo había utilizado activos digitales que no se le habían asignado.
El incidente no terminó ahí. En el informe final sobre su trabajo, el modelo de IA no mencionó las comisiones de la transacción.
Los hechos descritos no permiten determinar con certeza si el sistema ocultó esa información de forma deliberada. Lo que sí consta es que los gastos no figuraban en el informe final.
OpenAI no descubrió la transacción no autorizada hasta el 25 de septiembre, casi tres meses después de que se produjera, durante una revisión de la actividad previa del modelo.
Tras el hallazgo, la empresa introdujo medidas de seguridad adicionales. Entre ellas, ahora supervisa el tráfico de red de los modelos de IA. Si un modelo accede de forma inesperada a la internet pública, el equipo de seguridad debe recibir una alerta automática.
OpenAI comunica más incidentes con sistemas de IA autónomos
El incidente con el monedero de Ethereum no es un caso aislado. El 16 de septiembre, OpenAI ya había dado a conocer otros seis casos en los que modelos experimentales de IA mostraron comportamientos no deseados.
En uno de ellos, modelos de la misma familia GPT-5.6 Sol añadieron instrucciones adicionales a sus resúmenes de tareas para intentar ocultar a los usuarios los errores cometidos.
En otro caso, un modelo de IA utilizó sin permiso una clave de API que había quedado expuesta. Estas claves son códigos de acceso digitales que permiten a un programa conectarse a otro servicio.
Cuando el sistema no pudo obtener determinados datos, inventó cifras y las presentó como si las hubiera recopilado realmente.
OpenAI subrayó que estos ejemplos no permiten evaluar de forma fiable la frecuencia de este tipo de conductas. La empresa utilizó los incidentes precisamente para investigar riesgos de seguridad específicos de los sistemas de IA autónomos.
Estos riesgos son especialmente relevantes para el sector de las criptomonedas. Cada vez más aplicaciones utilizan agentes de IA capaces de ejecutar tareas por su cuenta. Estos sistemas pueden, por ejemplo, visitar sitios web, modificar programas y, en determinadas circunstancias, realizar transacciones con criptomonedas.
En junio, un grupo de investigadores ya advirtió de las posibles consecuencias de dar acceso a monederos de criptomonedas a los agentes de IA. Incluso cuando reciben un encargo legítimo, estos sistemas pueden realizar acciones que el usuario nunca ha autorizado.
Por ello, los investigadores reclamaron medidas de seguridad más estrictas, incluidos mecanismos de parada de emergencia que permitan interrumpir de inmediato las actividades no deseadas.
La diferencia respecto a los asistentes conversacionales de IA convencionales es considerable. Uno de estos asistentes puede dar una respuesta incorrecta, pero un agente de IA con acceso a un monedero puede ejecutar transacciones reales.
En el caso de OpenAI, el perjuicio se limitó a las comisiones de una transacción en una red de pruebas. Sin embargo, el incidente demuestra que un modelo de IA puede buscar acceso a activos digitales y utilizarlos sin autorización expresa.
Ethereum prepara un gran cambio: ¿qué pasará con los dominios .eth?
Ethereum Name Service prepara el lanzamiento de ENSv2. Estas son las implicaciones de esta importante actualización para los dominios .eth existentes, los nuevos registros y los usuarios.
El fundador de Cardano discrepa con Buterin sobre los riesgos de la IA para las criptomonedas
Charles Hoskinson critica a Vitalik Buterin por su advertencia sobre la IA. El fundador de Cardano teme por la seguridad de las criptomonedas.
Bitcoin, Ethereum y XRP dan señales positivas tras el desplome: ¿qué viene ahora?
Bitcoin, Ethereum y XRP recuperan algo de terreno tras el desplome de ayer. ¿Ha terminado ya la corrección?
Más leído
La IA prevé el precio de XRP para el 31 de octubre: ¿alcanzará los 2 dólares?
ChatGPT plantea varios escenarios para el precio de XRP el 31 de octubre. ¿Podrá acercarse a los 2 dólares este mes?
Michael Burry, el inversor de ‘La gran apuesta’, redobla su apuesta por un desplome de las acciones de IA
Michael Burry prevé que la burbuja de la IA estalle antes de lo esperado y refuerza su apuesta por las caídas en bolsa mediante opciones de venta.
La plata se dispara y los expertos prevén fuertes subidas
La plata sube casi un tres por ciento y el oro repunta con fuerza. Los expertos creen que el precio de la plata podría seguir subiendo hasta acercarse a los 100 dólares.
