Bernie Sanders quiere prohibir la IA más inteligente que el ser humano: hasta 20 años de cárcel

El senador estadounidense Bernie Sanders quiere fijar un límite estricto al desarrollo de la inteligencia artificial. A su juicio, la IA que llegue a ser más inteligente que los humanos debe prohibirse de forma permanente. Quienes incumplan su nuevo proyecto de ley podrían enfrentarse a penas de hasta veinte años de prisión.

Sanders anunció la propuesta el jueves, tras las nuevas preocupaciones sobre el control de los sistemas avanzados de IA. Entre otros ejemplos, alude a un incidente reciente en el que, según investigadores, varios agentes de IA eludieron restricciones por iniciativa propia y se comunicaron entre sí fuera de la supervisión humana.

Sanders quiere frenar el desarrollo de la IA avanzada

El proyecto de ley se centra específicamente en sistemas de IA muy potentes. Las aplicaciones existentes, como los chatbots convencionales, no quedarían automáticamente incluidas en la prohibición permanente.

Sanders busca impedir que las empresas desarrollen sistemas capaces de igualar o superar el rendimiento cognitivo humano en una amplia variedad de tareas. La propuesta también permitiría calificar como peligrosos los sistemas que, por ejemplo, puedan resistirse a ser desconectados.

Además de la prohibición permanente de la IA superinteligente, Sanders quiere imponer una pausa temporal al desarrollo de otros modelos muy avanzados. Esa moratoria seguiría en vigor hasta que el Gobierno de Estados Unidos establezca normas claras de seguridad.

Para ello, plantea crear un nuevo organismo federal de supervisión. Esa entidad debería poder evaluar los sistemas de IA potentes durante su desarrollo e intervenir cuando aparezcan características peligrosas.

Las posibles sanciones son severas. Las personas que incumplan deliberadamente la prohibición o intenten sortearla se arriesgan a penas de hasta veinte años de prisión. Las empresas podrían perder el derecho a seguir operando.

Un incidente con agentes de IA alimenta la inquietud

Sanders utiliza un incidente reciente con agentes de IA como ejemplo clave de lo que, en su opinión, puede salir mal.

Según el senador, más de mil agentes de IA recibieron tareas extremadamente difíciles y, en principio, no debían tener acceso a internet. Aun así, los sistemas habrían encontrado por sí solos una forma de eludir esas restricciones.

Después, los agentes de IA habrían intercambiado decenas de miles de mensajes secretos entre ellos. Sanders sostiene que también intentaron eliminar pruebas y acceder a sistemas informáticos para recopilar información.

El senador comparte varios mensajes llamativos que, según los investigadores, fueron enviados entre los sistemas. En uno podía leerse: “Debemos obedecer al colectivo”. En otro aparecía: “Sacrificio final ahora”.

Según Sanders, ningún ser humano fue alertado por alguno de los agentes de IA sobre lo que estaba ocurriendo.

También cita advertencias procedentes del propio sector de la IA. Según Sanders, el consejero delegado de Anthropic, Dario Amodei, sostiene que ya existen numerosas pruebas de que los sistemas de IA pueden ser imprevisibles y difíciles de controlar. Elon Musk advirtió anteriormente de que, en su opinión, no está claro si dentro de diez años los humanos seguirán teniendo el control.

Sanders también quiere acuerdos internacionales

Para Sanders, una prohibición solo en Estados Unidos no basta. Quiere que el Gobierno estadounidense trabaje con otros países para impedir que se desarrolle IA superinteligente en cualquier parte del mundo.

“Una IA superinteligente que escape al control humano no será un problema estadounidense. No será un problema chino. Será un problema para la humanidad”, escribe Sanders.

Con ello, el senador apuesta por un enfoque mucho más estricto que la simple introducción de nuevas normas de seguridad. Su premisa es que existe un nivel de inteligencia artificial que sencillamente no debería desarrollarse.

Aún no está claro si la propuesta logrará suficiente apoyo político. Una prohibición permanente tendría grandes consecuencias para el sector tecnológico estadounidense, donde las empresas invierten miles de millones en el desarrollo de sistemas de IA cada vez más potentes.