Los agentes de IA operan por su cuenta, pero ¿quién responde? La CFTC busca respuestas

Un regulador estadounidense se prepara para un mercado en el que los agentes de inteligencia artificial inviertan y operen de forma autónoma. La supervisión actual se centra en personas y empresas a las que se puede exigir responsabilidades, pero el escenario cambia cuando un programa actúa por su cuenta.

Ayer, el presidente del organismo planteó las preguntas que siguen sin respuesta.

Una nevera que actúa como agente de IA y gana Ether

Mike Selig, presidente de la Comisión de Negociación de Futuros de Materias Primas de Estados Unidos (CFTC), intervino ayer en el primer Frontier Forum organizado por el organismo en Washington. Para ilustrar el reto, recurrió a un ejemplo doméstico.

Según explicó, ya no es ciencia ficción imaginar una nevera que haga la compra por su cuenta con el dinero que obtiene al lanzar una criptomoneda meme o depositar Ether para obtener recompensas por validar transacciones.

Esa nevera sería, en la práctica, un agente de IA: un programa que actúa por sí mismo en lugar de limitarse a responder preguntas. El marco de supervisión actual aún no contempla esa figura.

Los supervisores financieros centran su atención en los intermediarios del mercado, como bancos y sociedades de intermediación. Estas entidades necesitan una licencia o estar registradas, lo que conlleva una serie de obligaciones.

Deben conocer la identidad de sus clientes y pueden recibir multas si incumplen las normas.

La CFTC funciona del mismo modo. Supervisa los derivados, contratos cuyo valor depende del precio de otro activo, como el petróleo o las criptomonedas.

Quienes operan por cuenta de terceros en ese mercado o prestan asesoramiento remunerado deben inscribirse en la Asociación Nacional de Futuros (NFA), el organismo de autorregulación del sector. Así, la CFTC sabe a quién exigir responsabilidades.

Con un agente de IA, esa referencia desaparece. Un programa no puede solicitar una licencia ni tiene un pasaporte que permita verificar su identidad.

Selig planteó quién respondería si algo saliera mal: si el desarrollador del agente estaría obligado a registrarse y quién asumiría la responsabilidad si el programa se descontrolara.

El consejero delegado de Coinbase, Brian Armstrong, ya anticipó hace un tiempo que, en un plazo de uno a dos años, un modelo de IA fuera de control podría propagarse por internet.

Un programa sin rostro

La identidad de quien está detrás del agente también plantea dudas. Selig se preguntó cómo pueden saber los supervisores en nombre de quién actúa un agente, o una cadena de ellos, y si hace falta una nueva versión de los controles de conocimiento del cliente: un sistema de conocimiento del agente, o KYA.

Los controles de conocimiento del cliente (KYC) permiten a entidades financieras como bancos, intermediarios y plataformas de criptomonedas verificar la identidad de sus nuevos clientes. Con un agente, la cuestión es qué identidad debe comprobarse, ya que detrás de una sola orden puede haber toda una cadena: el desarrollador del modelo, el creador del agente, la plataforma y el usuario.

La CFTC ya tuvo un anticipo de este problema en 2023, cuando un juez declaró responsable de una plataforma de negociación ilegal a Ooki DAO, un colectivo en línea sin equipo directivo. En el caso de los agentes, a veces ni siquiera hay una persona detrás.

Por eso, el debate va más allá de las competencias de la CFTC y afecta también al régimen de responsabilidad jurídica y a la supervisión bancaria. Selig considera que las criptomonedas pueden servir de referencia, ya que sus desarrolladores llevan años afrontando estas mismas preguntas.

Ventajas y riesgos de los agentes de IA

Según Selig, los agentes de IA permiten a los participantes más pequeños acceder a herramientas de gestión del riesgo que durante mucho tiempo estuvieron reservadas a las grandes instituciones. Brett Harrison, consejero delegado de Architect, una plataforma de derivados basada en IA, observa que cada vez más participantes utilizan algoritmos cuyo funcionamiento interno resulta opaco.

Sin embargo, Selig advirtió de que los agentes basados en modelos similares pueden imitarse entre sí. El Banco de Inglaterra ya alertó el año pasado de ese riesgo, porque ese comportamiento gregario puede amplificar una perturbación del mercado.

Además, el número de usuarios crece: según eToro, más de tres de cada cuatro jóvenes inversores estadounidenses están dispuestos a utilizar la IA para tomar decisiones de inversión. Coinbase y Binance ya han desarrollado este año herramientas que permiten a los agentes operar dentro de unos límites predefinidos.