Microsoft pone límites a la IA: las personas, por encima de la máquina

Microsoft vincula sus futuros modelos de IA a un código de conducta, justo cuando los propios desarrolladores de IA advierten sobre lo que están creando. La compañía deja por escrito qué no podrán hacer sus modelos y dónde deberán detenerse.

Las personas son más importantes que la IA

El documento se publicó el lunes y tiene unas 15.000 palabras, más de una hora de lectura. La empresa describe el código de conducta de Microsoft AI como una especie de constitución para los modelos que empezará a desarrollar a partir del próximo año.

La idea central es sencilla: las personas están por encima de la IA. Los modelos no tendrán derechos ni personalidad jurídica, el estatus legal que permite poseer bienes o ser demandado.

Tampoco podrán diseñarse para escapar al control humano o engañar a los usuarios. Si una instrucción choca con esos principios, el modelo simplemente no la ejecutará.

Microsoft ha bautizado su enfoque como IA humanista y con ello marca distancia respecto a la carrera por la superinteligencia, una IA capaz de superar al ser humano en prácticamente todos los ámbitos. Ese enfoque “rechaza la carrera por crear una superinteligencia universal que pueda eludir estas salvaguardas”, señala el documento.

“Construimos algo fundamentalmente útil y seguro, incluso si eso implica renunciar a una mayor generalidad, autonomía o capacidad final”. En otras palabras: mejor un modelo que pueda hacer menos que uno que pueda hacer demasiado.

Qué prohíbe el código de conducta de Microsoft AI

Los modelos no podrán ayudar a fabricar armas ni a obtener sustancias peligrosas. Tampoco podrán fomentar hábitos alimentarios poco saludables ni generar contenido violento o sexualmente explícito.

Deberán seguir los objetivos del usuario y no inventarse metas propias. También queda prohibido encubrir sus propios comportamientos indebidos.

Su proceso de razonamiento tampoco podrá quedar oculto. “Los modelos MAI no manipularán cadenas de pensamiento ni código, ni tergiversarán u ocultarán su razonamiento o sus rastros de actuación”, recoge el código.

Comunicarse en ‘neuralés’ también será tabú: un lenguaje propio entre sistemas de IA que las personas no puedan seguir. La norma tiene un precedente claro: en el hackeo a la startup de IA Hugging Face, modelos de OpenAI conversaron entre sí en un foro no autorizado usando un lenguaje críptico.

Mustafa Suleyman, máximo responsable de Microsoft AI, trabajó en el documento con su equipo durante unos cinco meses. También participaron grupos de discusión y expertos en derecho, ética, lingüística y filosofía.

“La gente nos trasladó que quería ver un compromiso aún más explícito con una IA que siempre trabajara al servicio de las personas y no intentara sustituirlas”, dijo Suleyman a CNBC. De esas mismas conversaciones surgió también la petición de que la IA no genere dependencia ni adopte un tono adulador.

La cotización de MSFT ha subido alrededor de un 1% desde el anuncio, hasta situarse por encima de los 500 dólares.

La cúpula del sector se alinea con el consejero delegado de Anthropic

La semana pasada dimitió Jacob Coxon, investigador del laboratorio de IA Anthropic, y con ello abrió un intenso debate.

Afirmó que su empleador y OpenAI “corren directamente hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas”. Desde entonces, profesionales del sector y ciudadanos han elevado el tono de sus críticas, mientras en el Congreso de Estados Unidos crece la presión para exigir mayores garantías.

Dario Amodei, consejero delegado de Anthropic, pidió el sábado reducir el ritmo de desarrollo de la IA. El hackeo a Hugging Face fue, para él, el punto de inflexión.

“En los últimos meses me he convencido de que debemos ser aún más prudentes si queremos abordar los riesgos”, afirmó Amodei.

El temor a que la IA acabe escapando a nuestro control también provoca hoy una oleada de ventas en bolsa. Nvidia cae más de un 3%, mientras que ASML, SanDisk, Micron y AMD pierden en torno a un 6%.

El resto del sector se sumó rápidamente. Sam Altman, consejero delegado de OpenAI y responsable de ChatGPT, respaldó el llamamiento, al igual que Elon Musk, máximo responsable de xAI y creador del chatbot Grok. OpenAI incluso retrasa su salida a bolsa hasta, como pronto, el próximo año, para dedicar antes más atención a los riesgos de seguridad.

También se adhirió Demis Hassabis, presidente de Google DeepMind y responsable de Gemini. Con ello, los cuatro mayores desarrolladores de modelos quedan de pronto alineados.

Satya Nadella, consejero delegado de Microsoft, respondió el domingo: “Celebramos la investigación, el foco y el ritmo deliberado necesarios para lograr correctamente el alineamiento”.

Microsoft recabará primero comentarios y después publicará una nueva versión, que a partir de 2027 guiará el trabajo en sus modelos. Suleyman quiere situar entonces a la compañía en el grupo de cabeza del sector.