Sam Altman advierte: la IA también tendrá consecuencias negativas

El rápido desarrollo de la inteligencia artificial conlleva inevitablemente consecuencias negativas, según el consejero delegado de OpenAI, Sam Altman. Aun así, considera que la sociedad debe estar dispuesta a asumir parte de esos riesgos, porque los beneficios de la IA pueden ser mucho mayores.

En una entrevista en el pódcast Decoded de Politico, Altman sostiene que no es realista aspirar a un mundo sin usos indebidos, fraudes o grandes ciberataques facilitados por la IA. Sin embargo, marca un límite claro ante los escenarios en los que las personas pierdan realmente el control de la inteligencia artificial.

Sam Altman defiende asumir riesgos con la IA

Altman hizo estas declaraciones durante una conversación sobre cómo deben abordar las empresas de IA y los gobiernos los riesgos de esta tecnología.

Según el consejero delegado de OpenAI, el mundo debe aceptar que la IA tendrá consecuencias negativas. A su juicio, estas se verán compensadas por enormes beneficios para la sociedad.

Altman afirmó que no optaría por un escenario en el que se garantizara la ausencia de grandes ataques informáticos, usos indebidos de esta tecnología, estafas y otras consecuencias negativas que acabarán produciéndose.

A su juicio, las personas utilizarán la IA con fines beneficiosos con mucha más frecuencia que para causar daño.

El consejero delegado de OpenAI sostuvo que los usos positivos superarán a los negativos por varios órdenes de magnitud.

Altman aboga así por una regulación relativamente poco restrictiva. Considera que el desarrollo y el uso de la IA no deben limitarse hasta el punto de perder los posibles beneficios de la tecnología.

Esta postura ocupa un lugar importante en el debate sobre el futuro de la IA. A medida que los modelos se vuelven más potentes, también aumenta el temor a que se utilicen para cometer ciberataques, fraudes y otros abusos.

El consejero delegado de OpenAI pone el límite en la pérdida de control

Altman, sin embargo, no está dispuesto a aceptar cualquier riesgo. En la misma entrevista dejó claro que el límite está en los escenarios verdaderamente catastróficos.

Entre ellos incluye una pérdida grave de control sobre la IA. En una situación así, un sistema podría actuar de tal manera que las personas ya no pudieran intervenir de forma eficaz.

La conversación no aclaró dónde se sitúa exactamente la frontera entre los daños que se pueden asumir y los riesgos inaceptables.

Esta distinción cobra cada vez más importancia a medida que los sistemas de IA pueden realizar tareas con mayor autonomía. El debate ya no se limita a lo que un asistente conversacional le dice a un usuario: también recibe cada vez más atención la cuestión de qué acciones debe permitirse que la IA ejecute por sí sola.

OpenAI aboga por exigir responsabilidades cuando algo falle

Pese a defender una regulación relativamente poco restrictiva, Altman no cree que las empresas de IA deban quedar exentas de responsabilidad cuando su tecnología cause daños.

Aboga por un marco jurídico que establezca con claridad quién es responsable cuando algo sale mal.

Altman señaló que, si se produce algún fallo durante el entrenamiento de sus modelos, debe existir un mecanismo para que OpenAI responda por ello.

A su juicio, los responsables de las políticas públicas en Estados Unidos deben seguir debatiendo esta cuestión. Su propuesta combina margen para un rápido desarrollo tecnológico con la exigencia de responsabilidades cuando las empresas cometan errores.

El debate sobre ese equilibrio resulta cada vez más urgente a medida que los sistemas de IA ganan potencia. Altman parece dejar clara una premisa: la seguridad absoluta no es una condición realista para seguir desarrollando la tecnología, pero algunos riesgos son demasiado elevados para aceptarlos.