El rey Carlos reúne en palacio a Nvidia, OpenAI y Anthropic para una cumbre sobre IA

Esta semana la atención vuelve a centrarse en la IA, aunque esta vez no por nuevos modelos ni por inversiones multimillonarias. El rey Carlos III del Reino Unido recibe a altos directivos de Nvidia, OpenAI, Anthropic y Google DeepMind para abordar el futuro de esta tecnología. La cuestión central es si hacen falta principios comunes para seguir desarrollando la IA de forma segura. También participará el ministro británico de IA.

Con esta reunión, Carlos III entra en un debate que gana cada vez más peso dentro del sector de la IA. El consejero delegado de OpenAI, Sam Altman, Elon Musk y el CEO de Anthropic, Dario Amodei, defendieron en los últimos días una mayor cautela en el desarrollo de los modelos de IA más potentes.

Carlos III quiere reunir a la cúpula de la IA en una misma mesa

Portavoces del Palacio de Buckingham señalan que la conversación girará en torno a cómo la IA puede ayudar a la sociedad sin perder de vista la dignidad humana. También se debatirá si las empresas necesitan principios compartidos para seguir desarrollando esta tecnología de manera segura.

El momento elegido no es casual. Amodei pidió este fin de semana de forma explícita frenar el desarrollo de los modelos más potentes. Además, la semana pasada Anthropic informó de que sus modelos Claude ya se habían utilizado, entre otras cosas, en operaciones cibernéticas, fraude, vigilancia y actividades vinculadas a armamento.

El Reino Unido intenta moverse en una posición intermedia. Regula la IA con menos dureza que la Unión Europea, pero desde 2023 cuenta con un Instituto de Seguridad de la IA. Este organismo recibe acceso a determinados modelos nuevos antes de su lanzamiento para analizar posibles riesgos.

Trump, en cambio, quiere acelerar

Por ahora, los acuerdos globales parecen difíciles. El presidente Donald Trump rechazó el domingo los llamamientos a frenar. Según él, desacelerar solo daría a China la oportunidad de adelantar a Estados Unidos.

A ello se suma un enorme incentivo financiero. Las empresas de IA están captando miles de millones y alcanzan valoraciones que solo se justifican si la tecnología sigue mejorando con rapidez. Esto genera una contradicción incómoda: las mismas compañías que prometen a los inversores un crecimiento extraordinario piden al mismo tiempo más margen para garantizar la seguridad de su tecnología.

Carlos III no puede resolver esa contradicción, pero su reunión muestra hasta qué punto ha crecido el debate sobre la IA. Lo que empezó como una discusión entre investigadores y tecnológicas ha llegado ya incluso a la mesa del Palacio de Buckingham.