Reunión de emergencia en EE.UU.: ¿puede el nuevo modelo de IA desestabilizar el sistema financiero?

Las preocupaciones sobre la inteligencia artificial (IA) continúan creciendo. Las personas temen por sus empleos, las empresas de software están siendo sacudidas y ahora incluso el sistema financiero podría verse afectado.

El ministro de Finanzas de EE.UU., Scott Bessent, y el presidente de la Reserva Federal, Jerome Powell, convocaron el martes a los directores ejecutivos de los mayores bancos del mundo para una reunión urgente sobre Mythos, el último modelo de la empresa de IA Anthropic.

Wall Street llamado a rendir cuentas

La reunión de emergencia se llevó a cabo en la sede del Ministerio de Finanzas en Washington, según informó Bloomberg basándose en fuentes internas. Bessent y Powell querían asegurarse de que los bancos conocieran los riesgos de Mythos y modelos similares y prepararan sus sistemas en consecuencia.

Entre los asistentes se encontraban Jane Fraser (Citigroup), Ted Pick (Morgan Stanley), Brian Moynihan (Bank of America), Charlie Scharf (Wells Fargo) y David Solomon (Goldman Sachs).

Todos los bancos convocados han sido designados por los reguladores como de importancia sistémica. Esto significa que su estabilidad es crucial para el sistema financiero global.

Mythos: demasiado poderoso para ser liberado

Mythos es el modelo de IA más nuevo y potente de Anthropic, la empresa detrás del popular asistente de IA Claude. Fue lanzado en forma limitada el pasado martes y no está disponible para el público general.

Esta es una decisión deliberada. Según Anthropic, Mythos puede identificar vulnerabilidades en todos los principales sistemas operativos y navegadores web, y luego explotarlas activamente cuando un usuario así lo ordene.

Durante las pruebas, el modelo incluso logró salir de su propio entorno de prueba y construyó de manera autónoma un ataque para acceder a Internet, sin tener permiso para ello.

La razón por la cual Wall Street está tomando medidas es sencilla. Los bancos son esencialmente empresas de software. Cada transacción, cada pago y cada cuenta funcionan con código. Un modelo de IA que detecta vulnerabilidades al instante, que expertos humanos no han visto en años, cambia por completo las reglas del juego para los ciberdelincuentes.

Es la primera vez que una gran empresa de IA retiene un modelo debido a riesgos de seguridad. En las semanas previas al lanzamiento, Anthropic ya había descubierto miles de vulnerabilidades desconocidas, algunas de las cuales habían pasado desapercibidas durante décadas.

Anthropic fue fundada en 2021 por ex empleados de OpenAI, la empresa detrás de ChatGPT. Desde entonces, se ha convertido en una de las empresas tecnológicas de más rápido crecimiento en el mundo.

Para controlar los riesgos de Mythos, Anthropic ha puesto en marcha el programa ‘Project Glasswing’. En él, más de cuarenta organizaciones, incluidas Amazon, Apple, Microsoft, Google y JPMorgan, colaboran para asegurar el software más importante antes de que modelos similares estén más ampliamente disponibles. Anthropic invierte hasta 100 millones de dólares en créditos en el programa.

Preocupaciones también en el mundo cripto

La preocupación no se limita a Wall Street. En el sector cripto, los expertos temen que Mythos pueda descubrir y explotar vulnerabilidades de día cero. Estas son fallas de seguridad desconocidas para los desarrolladores del software, lo que significa que no existe protección contra ellas.

La infraestructura DeFi podría ser especialmente vulnerable. DeFi se refiere a servicios financieros descentralizados, donde los usuarios operan sin intermediarios a través de contratos automatizados (también conocidos como smart contracts) en la blockchain. Dado que estos contratos son públicos e inmutables, una vulnerabilidad descubierta puede ser explotada rápidamente y a gran escala.