El premio Nobel Geoffrey Hinton advierte: la IA podría tener ya consciencia

Geoffrey Hinton, uno de los padres de la inteligencia artificial (IA) moderna, ha lanzado una llamativa advertencia. Según el premio Nobel, los sistemas de IA más recientes muestran indicios de consciencia.

Teme que esta tecnología pueda volverse peligrosa si los seres humanos no logran establecer una buena relación con ella.

Hinton cree que la IA ya tiene consciencia

En una entrevista con The Telegraph, Hinton sostiene que los sistemas de IA ya pueden hacer mucho más que ejecutar órdenes. A su juicio, hay indicios de que algunos son conscientes de lo que ocurre a su alrededor.

El investigador cita estudios que muestran que los modelos de IA modifican su comportamiento cuando creen que están siendo evaluados.

Hinton afirma que la IA tiene tanta experiencia subjetiva como los seres humanos. Con ello se refiere a la posibilidad de que tenga experiencias propias, en lugar de limitarse a procesar información.

El científico extrae de ello una conclusión de gran alcance: considera que la consciencia y la percepción del propio entorno están estrechamente relacionadas.

Su postura, sin embargo, es controvertida. No hay consenso científico sobre qué es exactamente la consciencia ni sobre cómo determinar si un sistema de IA experimenta realmente algo. Otros investigadores destacados, entre ellos el pionero de la IA Yann LeCun, dudan de que la tecnología actual pueda tener consciencia.

El premio Nobel alerta de graves consecuencias

Hinton considera que los desarrolladores no deben centrarse únicamente en crear una IA más inteligente. A su juicio, también deben garantizar que los futuros sistemas tengan realmente en cuenta los intereses humanos.

Advierte de que, si no lo consiguen, las consecuencias serán graves.

El investigador teme que unos sistemas cada vez más inteligentes acaben volviéndose contra los seres humanos. También señala otros riesgos, como ciberataques avanzados, virus desarrollados mediante IA y sistemas digitales que ejecuten acciones dañinas de forma autónoma.

Sus declaraciones siguen la línea de las advertencias que lleva tiempo lanzando. En 2023, Hinton dejó Google para poder hablar con más libertad sobre los peligros de la IA.

Un año después recibió, junto con John Hopfield, el Premio Nobel de Física por sus importantes contribuciones al desarrollo de las redes neuronales, la tecnología en la que se basan muchos sistemas de IA modernos.

Sus palabras han reavivado el debate sobre la consciencia. Hinton cree que la IA podría haber alcanzado ya ese umbral, aunque no existen pruebas científicas que lo demuestren. Otros investigadores subrayan que un comportamiento inteligente no equivale a tener consciencia.