Anthropic asegura que este año ha frenado varios intentos de científicos que querían utilizar sus modelos de IA para investigaciones que podían contribuir al desarrollo de armas biológicas.
Según el Financial Times, la compañía detalló cinco casos de usuarios que intentaron eludir los controles y ocultaron el verdadero objetivo de sus investigaciones.
Algunos usuarios procedían de países en los que Anthropic no ofrece sus modelos, entre ellos Rusia, China e Irán.
La IA y la biología, una combinación cada vez más delicada
La preocupación entre los investigadores de IA y los expertos en bioseguridad va en aumento. A medida que los modelos se vuelven más potentes, podrían facilitar investigaciones sobre virus, patógenos o sistemas biológicos. Eso no implica necesariamente un riesgo, pero sí reduce las barreras para personas con malas intenciones.
Anthropic afirma que un investigador de una región no admitida intentó durante semanas planificar con Claude experimentos relacionados con la gripe aviar. Los filtros de seguridad limitaron su acceso a modelos menos potentes y, finalmente, las cuentas fueron bloqueadas.
Ahí reside precisamente la tensión. La IA puede acelerar la ciencia, pero también hacer más accesible conocimiento sensible a actores que normalmente no lo tendrían tan al alcance.
Se reaviva el debate sobre la seguridad
La revelación llega en un momento en que el debate sobre la seguridad de la IA se intensifica. A comienzos de esta semana, Jacob Coxon dimitió de Anthropic. Afirmó que empleados de la compañía creen sinceramente que la IA podría destruir a la humanidad antes de que termine esta década.
Puede sonar extremo. Pero, junto con incidentes de este tipo, alimenta de nuevo la idea de que la tecnología avanza más rápido que las estructuras de seguridad que la rodean.
La ciberseguridad también sigue siendo un riesgo importante. En su informe, Anthropic menciona casos de uso indebido relacionados con fraude, vigilancia e intentos de monitorizar a disidentes.
Además, la compañía acusa a laboratorios chinos de IA de haber intentado replicar su tecnología mediante la llamada destilación.
Está claro que el mercado no se detiene de cara a la salida a bolsa de Anthropic en octubre. Hoy recibimos casi a diario grandes noticias sobre el mundo de la inteligencia artificial.
Jensen Huang, consejero delegado de Nvidia, vende a Europa una fábrica de IA
Jensen Huang sostiene que Europa no debe limitarse a consumir inteligencia artificial, sino también producirla. Nvidia ofrece ahora un centro de datos llave en mano.
Tesla y AMD se disparan en Wall Street y el oro también sube
Tesla y AMD registran fuertes subidas en Wall Street, mientras el oro también se dispara. ¿Qué impulsa hoy a los mercados y cómo actúa la Fed?
Anthropic podría protagonizar la mayor salida a bolsa de la historia: cinco claves
Anthropic aspira a una valoración de hasta 2 billones de dólares en su salida a bolsa, pero advierte de «riesgos existenciales». Cinco claves para entender la operación.
Más leídos
Trump podría perder su mayoría: ¿qué supondría para la Bolsa?
Trump podría perder su mayoría. ¿Qué supondría para Wall Street? Los analistas ven grandes oportunidades en las acciones, pero advierten de los riesgos ligados a los tipos de interés.
El G7 simula ciberataques a bancos: ¿resiste el sistema a la IA?
Los países del G7 preparan simulacros de ciberataques con IA contra bancos para detectar vulnerabilidades en el sistema financiero.
Por qué se desploman las acciones de los fabricantes de chips pese al aumento de la demanda
Las acciones de los fabricantes de chips sufren fuertes caídas, mientras el repunte de la rentabilidad de los bonos acapara cada vez más atención. ¿Se acerca el fin del ciclo alcista impulsado por la inteligencia artificial?
