El fundador de DeepMind advierte: «La IA no debe adelantarse a la seguridad»

La inteligencia artificial avanza a gran velocidad. Según Shane Legg, cofundador de Google DeepMind, ese progreso encierra un riesgo importante: las capacidades de la IA no deben crecer nunca más rápido que los sistemas destinados a mantener la tecnología segura y bajo control.

La advertencia llega en un momento en que el debate sobre la inteligencia artificial general empieza a tomarse cada vez más en serio. Legg cree que existe una posibilidad real de que una primera forma de esta tecnología sea una realidad en los próximos años.

El cofundador de DeepMind alerta de los riesgos de la IA

“Vivimos una etapa en la que las capacidades avanzan muy, muy deprisa”, afirmó Legg en una entrevista con Financial Times. “Pero no podemos permitir que las capacidades vayan por delante de la seguridad”.

La preocupación aumenta porque los sistemas modernos de IA pueden operar con cada vez más autonomía. Entre otras cosas, son capaces de escribir software, ejecutar tareas por sí solos y ayudar a investigadores a desarrollar nuevos sistemas de inteligencia artificial.

Es precisamente este último punto el que hace que el desarrollo resulte delicado. Las empresas de IA advierten de un escenario en el que los sistemas más potentes puedan acabar contribuyendo a mejorar nuevas inteligencias artificiales. Eso alimenta el temor a que la tecnología avance más rápido que las herramientas con las que los humanos pueden supervisarla y controlarla.

Dario Amodei, consejero delegado de la empresa de IA Anthropic, también pidió recientemente prudencia. Defiende ralentizar la introducción de los modelos de IA más potentes por los posibles riesgos de seguridad, aunque sin detener por completo su desarrollo.

Legg considera esa idea “interesante” y “digna de estudio”. Al mismo tiempo, subraya que aún queda por definir cómo funcionaría un enfoque así en la práctica.

¿Es ya una realidad la AGI?

El debate se ha vuelto más urgente con la llegada de modelos cada vez más potentes. El presidente de OpenAI, Greg Brockman, afirmó este mes que el nuevo GPT-6 Astra significa que “ya estamos en la era de la AGI”. El consejero delegado de Nvidia, Jensen Huang, fue aún más lejos y aseguró que, en su opinión, la AGI ya ha llegado.

Legg no está convencido.

AGI son las siglas de artificial general intelligence, o inteligencia artificial general. Google DeepMind emplea ese término para referirse a un sistema que dispone de todas las capacidades cognitivas del cerebro humano.

Según Legg, es demasiado pronto para afirmar que un sistema así ya existe. Incluso duda de que Astra cumpla la propia definición de AGI de OpenAI, según la cual un sistema debe ser capaz de realizar la mayor parte del trabajo intelectual con valor económico.

“Hacen cosas realmente extraordinarias, por supuesto, pero creo que todavía no han llegado a un punto en el que puedan cumplir siquiera su propia definición”, señaló Legg.

Su previsión, en todo caso, no cambia. Legg sigue estimando en un 50% la probabilidad de que en 2028 se alcance una forma “mínima” de AGI.

Un nuevo instituto para ampliar el debate sobre la AGI

Coincidiendo con su advertencia, Legg ha puesto en marcha el DeepMind Institute. Con esta iniciativa, Google DeepMind quiere ampliar el debate público sobre la inteligencia artificial avanzada y hacer más comprensible la investigación técnica para quienes no pertenecen al sector.

Según Legg, el momento ha llegado. “El debate público está empezando de verdad. La gente se toma muy, muy en serio la posibilidad de una inteligencia general potente”.

El instituto no se centrará solo en la tecnología. También abordará cuestiones como la ciencia, la educación, la sociedad, las políticas públicas, la filosofía y el bienestar humano. Además de empleados de Google, participarán expertos externos.

Las tres primeras publicaciones tratan sobre la seguridad de la IA, la política económica y los principios de una nueva forma de pensamiento utópico.

En uno de esos textos, los investigadores de DeepMind Rohin Shah y Anca Dragan advierten específicamente de una menor transparencia en los modelos de IA más potentes. Según ellos, la competencia comercial y la prisa por lanzar nuevos modelos pueden reducir los incentivos de las empresas para explicar cómo razonan sus sistemas. La regulación, sostienen, puede ayudar a abordar ese problema.

El directivo de Google James Manyika resume de otra forma el objetivo de la compañía. La única carrera de la IA en la que Google quiere participar, afirma, es “la carrera por hacerlo bien”.