‘La IA tiene un acelerador, pero no un freno’, advierte líder de Anthropic

El desarrollo de la inteligencia artificial avanza tan rápido que las personas corren el riesgo de perder el control, advierte Jack Clark, cofundador de la empresa de IA Anthropic. Según Clark, actualmente, a la industria de la IA le falta un componente crucial: un freno.

Clark sostiene que los gobiernos deben poder intervenir si la tecnología crece más rápido de lo que la sociedad puede seguir. Su advertencia llega en un momento en el que los sistemas de IA se vuelven cada vez más autónomos y en mayor medida apoyan su propio desarrollo.

Anthropic observa una IA cada vez más independiente

En una entrevista con la BBC, Clark compara la situación actual con un automóvil que solo puede acelerar.

“Quieres poder quitar el pie del acelerador y pisar el freno”, afirma. “En este momento, parece que el sector de la IA tiene un acelerador, pero no un freno.”

Según Clark, el chatbot de Anthropic, Claude, ya es desarrollado en gran parte con código escrito por el propio Claude. Se estima que aproximadamente el ochenta por ciento del código es trabajo del propio sistema de IA.

Si esta tendencia continúa, Claude podría usar código completamente generado por la IA dentro de dos años. En teoría, esto significa que la inteligencia artificial podría mejorarse a sí misma sin intervención humana directa.

Clark describe esto como un desarrollo con potenciales grandes consecuencias para la economía, el mercado laboral y la sociedad.

Llamado a nuevas regulaciones para la IA

El cofundador de Anthropic considera que los gobiernos ya deben estar pensando en nuevas regulaciones para la IA.

“El mundo debe reflexionar sobre esto y eventualmente desarrollar nuevas normativas que aseguren que podamos confiar en estos sistemas”, dice Clark.

Él compara esto con el auge de la industria petrolera a principios del siglo XX. También entonces surgieron nuevos riesgos y el gobierno tuvo que establecer reglas para aprovechar los beneficios de la tecnología sin exponer a la sociedad a peligros incontrolables.

Curiosamente, Anthropic abogó esta semana por un enfoque relativamente flexible en la regulación de la IA en los Estados Unidos. Por ejemplo, una reciente medida de IA del presidente Donald Trump no obliga a las empresas a hacer que sus modelos sean probados por el gobierno previamente para verificar su seguridad.

Mientras tanto, grandes actores como Anthropic, OpenAI y Google continúan sus investigaciones sin descanso.

La creatividad sigue siendo una ventaja humana según Clark

Además de las preocupaciones sobre seguridad y control, Clark también advierte sobre el impacto de la IA en el empleo. Según él, especialmente los llamados agentes de IA, sistemas que realizan tareas de forma autónoma, podrían en el futuro asumir trabajos que actualmente realizan personas.

Grandes empresas tecnológicas ya han despedido a miles de empleados, citando regularmente el creciente uso de la IA como factor.

No obstante, Clark ve también una ventaja importante para los humanos. Según él, todavía hay pocas pruebas de que la IA pueda ser verdaderamente creativa.

“En Anthropic, actualmente estamos más limitados por la falta de buenas ideas que por nuestras capacidades técnicas para llevar a cabo esas ideas”, afirma.

Por ello, aconseja a los jóvenes que mantengan un interés amplio, lean mucho y desarrollen su curiosidad. Justamente la creatividad y la capacidad de concebir nuevas ideas serían, según él, cualidades con las que las personas pueden destacarse en una economía impulsada por la IA.