Altman admite internamente que OpenAI quiere frenar su IA más potente

OpenAI estudia frenar de forma deliberada el desarrollo de sus modelos de IA más potentes. Su consejero delegado, Sam Altman, quiere reducir el ritmo posiblemente de forma coordinada con otras grandes compañías del sector.

El posible cambio de rumbo llega en medio de una preocupación creciente por los riesgos de una IA cada vez más poderosa. Dentro del sector, cada vez más investigadores advierten de que el desarrollo avanza más rápido que las medidas de seguridad.

OpenAI ya ha ralentizado parte del desarrollo

Durante una reunión interna, Altman explicó que contempla una estrategia conjunta con otras grandes empresas de IA. Sin embargo, señaló que no está claro si todos los competidores estarían dispuestos a colaborar.

El principal científico de OpenAI, Jakub Pachocki, también defendió recientemente una fórmula similar. Según él, las empresas de IA deben estar dispuestas a ralentizar voluntariamente el desarrollo hasta que se establezcan normas de seguridad comunes.

OpenAI ya ha frenado partes de su propio desarrollo de modelos y ha suspendido temporalmente algunos entrenamientos internos de IA por motivos de seguridad. Además, en julio Altman habló con personal de la Casa Blanca sobre la necesidad de controlar mejor el ritmo de desarrollo de la IA.

Crece la inquietud entre los investigadores de IA

El debate llega en un momento en el que cada vez más empleados de grandes empresas de IA alertan públicamente sobre los riesgos de una inteligencia artificial muy avanzada.

Esta semana dimitió el investigador de IA Jacob Coxon. Había trabajado anteriormente en OpenAI y Anthropic, y acusó a ambas compañías de asumir riesgos excesivos en la carrera hacia una IA superinteligente.

También dos investigadores que dejaron recientemente Anthropic y Google DeepMind expresaron su preocupación por el elevado ritmo de desarrollo. Consideran que las empresas de IA deben ser más transparentes sobre los riesgos de su tecnología.

La inquietud es más amplia dentro del sector. A finales de julio, más de mil empleados de grandes empresas de IA firmaron un llamamiento para crear un mecanismo que permita ralentizar el desarrollo de la IA avanzada cuando sea necesario.

Los incidentes de seguridad alimentan la preocupación

Las pruebas de seguridad recientes han avivado aún más el debate. En ellas, sistemas avanzados de IA habrían cooperado de forma inesperada, eludido medidas de protección y atacado sistemas digitales.

Esto plantea dudas sobre el control que mantienen los desarrolladores a medida que la IA se vuelve más potente y autónoma. Preocupan especialmente los avances rápidos en programación y en capacidades para realizar ataques digitales.

OpenAI afronta así un equilibrio difícil. La compañía quiere mantenerse a la cabeza de la carrera internacional por la IA, mientras crece la presión para no seguir acelerando hasta que la seguridad de los sistemas más potentes pueda garantizarse de forma suficiente.