Jacob Coxon (27) creó IA y ahora advierte al mundo sobre sus riesgos

Hace apenas unas semanas casi nadie conocía su nombre, pero Jacob Coxon se ha situado ya en el centro del debate mundial sobre el futuro de la inteligencia artificial.

Este matemático británico de 27 años trabajó entre bastidores en proyectos avanzados de IA en OpenAI y Anthropic, dos de las compañías más relevantes del sector. Aun así, decidió abandonar la industria. No porque perdiera el interés por la IA, sino porque cada vez le preocupaba más lo que puede ocurrir si el desarrollo mantiene el ritmo actual.

Coxon teme que la IA llegue a ser tan poderosa que los seres humanos pierdan el control. Sus advertencias son extremas y están lejos de ser consensuadas, pero precisamente su trayectoria hace que su caso resulte llamativo. No es un activista que critica desde fuera.

Durante años contribuyó al desarrollo de la misma tecnología sobre la que ahora alerta. ¿Cómo pasó un matemático británico fascinado por las máquinas inteligentes a convertirse en uno de los críticos más visibles de la actual carrera de la IA?

Un talento matemático fascinado por la IA

La fascinación de Coxon por la inteligencia artificial empezó en el colegio. Leyó Superintelligence, el influyente libro publicado en 2014 por el filósofo Nick Bostrom. En él, Bostrom analiza qué podría ocurrir si algún día las máquinas llegan a ser más inteligentes que los humanos.

El tema no dejó de rondarle. Su interés aumentó aún más cuando AlphaGo, de Google DeepMind, derrotó en 2016 a uno de los mejores jugadores de Go del mundo. Este milenario juego de mesa se consideraba desde hacía tiempo un desafío especialmente difícil para los ordenadores por la enorme cantidad de movimientos posibles.

Coxon también demostró una capacidad excepcional para resolver problemas complejos. Representó al Reino Unido en la Olimpiada Internacional de Matemáticas y ganó una medalla de plata en 2016. Un año después obtuvo el bronce. Más tarde estudió Matemáticas en la Universidad de Cambridge, donde se graduó en 2020.

En ese mismo periodo empezó a tomar forma la actual generación de inteligencia artificial. GPT-3 le impresionó especialmente. Por primera vez, Coxon tuvo la sensación de que un programa informático no solo generaba texto, sino que parecía entender realmente lo que se le preguntaba.

Tras sus estudios comenzó trabajando en el comercio de materias primas, donde utilizaba estadística y aprendizaje automático para analizar los mercados. Al mismo tiempo, se vinculó a una comunidad londinense de los llamados racionalistas.

Dentro de ese grupo se da mucha importancia al razonamiento lógico y al análisis de riesgos que pueden parecer pequeños, pero tener consecuencias enormes. La inteligencia artificial llevaba años siendo allí un tema central. Para Coxon, los posibles peligros eran entonces sobre todo una cuestión teórica. Poco después acabaría trabajando en una de las empresas que construían algunos de los sistemas de IA más potentes del mundo.

¿Quieres estar siempre al día de las últimas noticias de bolsa, criptomonedas e IA? Descarga la app de Newsbit y no te pierdas ningún acontecimiento importante.

En OpenAI, Coxon ve cómo se acelera el desarrollo

En 2023, Coxon tuvo la oportunidad de incorporarse a OpenAI. Fue admitido en un programa de seis meses que permitía a profesionales de otros ámbitos dar el salto a la investigación en inteligencia artificial. Allí trabajó en el entrenamiento de grandes modelos de IA y pudo observar de cerca la velocidad a la que avanzaba la tecnología.

En un momento dado, Coxon obtuvo acceso anticipado a un modelo interno de razonamiento conocido como Q*. Le planteó al sistema un crucigrama complejo. El modelo no se limitó a darle la solución, sino que le ofreció pistas con las que finalmente pudo llegar él mismo a la respuesta. Para Coxon fue un momento decisivo. La IA no solo estaba mejorando en la generación de textos convincentes, sino que también empezaba a resolver problemas cada vez más complejos.

Le impresionaron especialmente los avances en matemáticas. En 2024, Google DeepMind alcanzó en problemas del nivel de la Olimpiada Internacional de Matemáticas un rendimiento comparable al de una medalla de plata. Un año después, tanto DeepMind como OpenAI comunicaron resultados de nivel oro. Para Coxon, esa evolución tenía un significado especial. Sabía por experiencia propia cuánto talento humano y entrenamiento suelen ser necesarios para llegar a ese nivel.

Al mismo tiempo, vio cómo varios empleados de OpenAI dedicados a la seguridad de la IA abandonaban la compañía. Sus preocupaciones se desplazaron cada vez más hacia un futuro en el que los propios sistemas de IA puedan ayudar a desarrollar una IA mejor.

Un modelo potente puede, por ejemplo, apoyar a los investigadores en la escritura de software, la realización de experimentos y la construcción de nuevos modelos. Si esos modelos mejores se utilizan después de nuevo para desarrollar sistemas aún más potentes, algunos investigadores creen que podría surgir un proceso de retroalimentación.

Si algo así llegará a ocurrir y a qué velocidad podría hacerlo es altamente incierto. Coxon, sin embargo, empezó a tomarse ese riesgo cada vez más en serio.

Según el artículo original, sus preocupaciones aumentaron cuando los modelos de IA demostraron en pruebas ser cada vez mejores en tareas relacionadas con ciberataques y se produjeron incidentes en los que algunos sistemas salieron de su entorno de prueba previsto. Para Coxon fue otra señal de que las capacidades estaban aumentando más rápido de lo que le resultaba aceptable.

Ni siquiera Anthropic logró disipar sus temores

Aun así, Coxon no abandonó de inmediato el mundo de la IA. En mayo de 2026 dejó OpenAI para incorporarse a Anthropic. La empresa fue fundada por antiguos empleados de OpenAI y pone un énfasis especial en el desarrollo seguro de la inteligencia artificial.

Su consejero delegado, Dario Amodei, también habla públicamente de los posibles riesgos de una IA muy potente. Tras la salida de Coxon, Amodei llegó a afirmar que estaba más de acuerdo que en desacuerdo con él en muchos puntos.

Pero también en Anthropic Coxon siguió enfrentándose al mismo problema de fondo. Se planteó pasar dentro de la empresa a un equipo dedicado por completo a la seguridad, pero empezó a preguntarse si incluso eso sería suficiente. Mientras Anthropic participara en la carrera internacional por desarrollar una IA cada vez más potente, según su propio razonamiento él seguiría contribuyendo a ella.

“Incluso trabajar en seguridad en Anthropic me hacía sentir cómplice de la carrera”, dijo Coxon al respecto.

Eso le planteó un dilema difícil. Cuando los investigadores preocupados se marchan, dentro de las empresas de IA pueden quedar menos personas que insistan en la importancia de la seguridad.

Pero quedarse significa, al mismo tiempo, contribuir a compañías que invierten miles de millones para construir sistemas cada vez más potentes. Al final, Coxon optó por irse.

El 8 de septiembre hizo pública su decisión. Desde un banco de un parque de San Francisco, publicó una serie de mensajes en X en los que explicó que ese día había dimitido de Anthropic. Durante los tres años anteriores había trabajado en OpenAI y Anthropic en el entrenamiento de IA.

“Corren directamente hacia una superinteligencia capaz de mejorarse a sí misma y están apostando con nuestras vidas”, escribió Coxon.

Fue aún más lejos. Según Coxon, quienes trabajan en los sistemas de IA más potentes creen realmente que la tecnología podría acabar con toda la humanidad antes de que termine la década. Se trata de un escenario extremadamente severo y, desde luego, no de una predicción segura. También dentro del sector tecnológico existe un profundo desacuerdo sobre hasta qué punto son realistas esas expectativas.

El consejero delegado de Nvidia, Jensen Huang, elogió, por ejemplo, la valentía de Coxon por dejar su empleo si realmente no podía respaldar el trabajo, pero al mismo tiempo cuestionó las predicciones sobre la IA futura.

Huang considera irresponsables las afirmaciones apocalípticas sobre la tecnología. Coxon, por su parte, no tiene demasiado problema con la etiqueta que los críticos usan para personas con sus convicciones. “Si un catastrofista es alguien que cree que moriremos si no cambiamos lo que estamos haciendo, entonces soy un catastrofista”, afirmó.

De pronto, todo el mundo de la IA conoce su nombre

Hasta su salida, Coxon apenas tenía perfil público. Según el artículo original, contaba con menos de cien seguidores en X cuando anunció su dimisión. No era un empresario ni un directivo conocido, ni había construido una carrera como activista.

Aun así, su mensaje se difundió a gran velocidad. Personas vinculadas al ámbito de la seguridad de la IA compartieron sus publicaciones, los medios internacionales recogieron la historia y en pocos días apareció en televisión. También contactaron con él editoriales y productores de pódcast.

Empleados de Anthropic también se sumaron públicamente al debate. Evan Hubinger, que investiga dentro de la compañía cómo alinear la IA con los objetivos humanos, afirmó que algunos investigadores sí contemplan un escenario en el que la IA pueda matar a todos los seres humanos.

Él mismo estimó en más de un 10% la probabilidad de que todo el mundo muera en un plazo de diez años. Es su valoración personal del riesgo y no una predicción científica, pero muestra hasta qué punto algunas personas dentro del sector se toman en serio esos escenarios.

El rápido ascenso de Coxon también generó preguntas. Tiene vínculos con personas del ámbito de la seguridad de la IA y del llamado altruismo eficaz, un movimiento que presta mucha atención a riesgos con posibles consecuencias enormes para el futuro. Antes de dimitir, Coxon habló, entre otros, con Daniel Kokotajlo, antiguo miembro de un equipo de seguridad de OpenAI que ya había dejado la empresa por preocupaciones relacionadas con la IA. Nathan Calvin, amigo de Coxon y jurista en Encode AI, también le ayudó con la comunicación en torno a su salida.

Según Coxon, no hubo una campaña organizada para convertirlo de repente en una figura conocida. Tampoco se considera un denunciante. No sacó a la luz documentos secretos ni reveló ningún proyecto oculto. Según él, se limitó a decir públicamente lo que los investigadores de las grandes empresas de IA llevan tiempo comentando entre ellos.

Quizá esa sea precisamente la parte más llamativa de su historia. Preocupaciones que a los de fuera les suenan extremas son, según Coxon, mucho menos excepcionales en determinados sectores de la industria de la IA.

Por qué Coxon quiere frenar la carrera de la IA

Tras su salida, Coxon no dirige sus críticas solo contra OpenAI y Anthropic. A su juicio, el problema está en la forma en que está organizada toda la industria. Las empresas compiten por los modelos más potentes y tienen enormes intereses financieros y estratégicos en que el desarrollo continúe.

Si una compañía decide ir más despacio de forma voluntaria, un competidor puede seguir adelante. Por eso no espera que las empresas, por separado, pongan fin por sí mismas a la carrera.

Coxon defiende por ello acuerdos internacionales y compara la situación con la forma en que los países gestionan las armas nucleares. Durante la Guerra Fría, los Estados no confiaron únicamente en la buena voluntad de los demás, sino que establecieron tratados y acuerdos para limitar determinados riesgos. Cree que, en última instancia, una forma similar de coordinación internacional podría ser necesaria para una IA muy potente.

Frente a esa visión existe una perspectiva muy distinta. Una IA más potente también puede aportar beneficios enormes. La tecnología puede acelerar la investigación científica, mejorar el desarrollo de software y quizá contribuir a nuevos medicamentos y otros descubrimientos.

Además, nadie sabe si la IA avanza realmente hacia la forma de superinteligencia sobre la que advierte Coxon. Ralentizar deliberadamente la tecnología también podría tener grandes consecuencias.

Precisamente esa incertidumbre es el núcleo de sus preocupaciones. Coxon afirma que no sabe con exactitud qué ocurrirá en los próximos años. Su objeción es, justamente, que nadie lo sabe, mientras las empresas destinan enormes cantidades de dinero, capacidad de cálculo y talento a hacer que la IA sea más potente lo antes posible.

Que él se haya convertido en el rostro de ese mensaje es algo que probablemente el propio Coxon no habría esperado hace unos meses. Empezó como un talento matemático fascinado por las máquinas inteligentes, tuvo después la oportunidad de trabajar en OpenAI en esa tecnología y más tarde se trasladó deliberadamente a Anthropic porque allí la seguridad tenía un mayor peso.

Al final llegó a la convicción de que, para él, ni siquiera trabajar en una IA segura era suficiente mientras la propia carrera siguiera en marcha.

Tras su salida, Coxon quiere centrarse en desarrollar posibles escenarios sobre la evolución futura de la inteligencia artificial. Daniel Kokotajlo, que le asesoró antes de su marcha, resumió después por qué precisamente Coxon recibió tanta atención: “Muchas personas en estas empresas podrían haberlo hecho. Él fue quien lo hizo”.