Anthropic alerta: la IA pudo utilizarse en investigaciones sobre armas biológicas

Anthropic asegura que este año ha frenado varios intentos de científicos que querían utilizar sus modelos de IA para investigaciones que podían contribuir al desarrollo de armas biológicas.

Según el Financial Times, la compañía detalló cinco casos de usuarios que intentaron eludir los controles y ocultaron el verdadero objetivo de sus investigaciones.

Algunos usuarios procedían de países en los que Anthropic no ofrece sus modelos, entre ellos Rusia, China e Irán.

La IA y la biología, una combinación cada vez más delicada

La preocupación entre los investigadores de IA y los expertos en bioseguridad va en aumento. A medida que los modelos se vuelven más potentes, podrían facilitar investigaciones sobre virus, patógenos o sistemas biológicos. Eso no implica necesariamente un riesgo, pero sí reduce las barreras para personas con malas intenciones.

Anthropic afirma que un investigador de una región no admitida intentó durante semanas planificar con Claude experimentos relacionados con la gripe aviar. Los filtros de seguridad limitaron su acceso a modelos menos potentes y, finalmente, las cuentas fueron bloqueadas.

Ahí reside precisamente la tensión. La IA puede acelerar la ciencia, pero también hacer más accesible conocimiento sensible a actores que normalmente no lo tendrían tan al alcance.

Se reaviva el debate sobre la seguridad

La revelación llega en un momento en que el debate sobre la seguridad de la IA se intensifica. A comienzos de esta semana, Jacob Coxon dimitió de Anthropic. Afirmó que empleados de la compañía creen sinceramente que la IA podría destruir a la humanidad antes de que termine esta década.

Puede sonar extremo. Pero, junto con incidentes de este tipo, alimenta de nuevo la idea de que la tecnología avanza más rápido que las estructuras de seguridad que la rodean.

La ciberseguridad también sigue siendo un riesgo importante. En su informe, Anthropic menciona casos de uso indebido relacionados con fraude, vigilancia e intentos de monitorizar a disidentes.

Además, la compañía acusa a laboratorios chinos de IA de haber intentado replicar su tecnología mediante la llamada destilación.

Está claro que el mercado no se detiene de cara a la salida a bolsa de Anthropic en octubre. Hoy recibimos casi a diario grandes noticias sobre el mundo de la inteligencia artificial.