Anthropic asegura que este año ha frenado varios intentos de científicos que querían utilizar sus modelos de IA para investigaciones que podían contribuir al desarrollo de armas biológicas.
Según el Financial Times, la compañía detalló cinco casos de usuarios que intentaron eludir los controles y ocultaron el verdadero objetivo de sus investigaciones.
Algunos usuarios procedían de países en los que Anthropic no ofrece sus modelos, entre ellos Rusia, China e Irán.
La IA y la biología, una combinación cada vez más delicada
La preocupación entre los investigadores de IA y los expertos en bioseguridad va en aumento. A medida que los modelos se vuelven más potentes, podrían facilitar investigaciones sobre virus, patógenos o sistemas biológicos. Eso no implica necesariamente un riesgo, pero sí reduce las barreras para personas con malas intenciones.
Anthropic afirma que un investigador de una región no admitida intentó durante semanas planificar con Claude experimentos relacionados con la gripe aviar. Los filtros de seguridad limitaron su acceso a modelos menos potentes y, finalmente, las cuentas fueron bloqueadas.
Ahí reside precisamente la tensión. La IA puede acelerar la ciencia, pero también hacer más accesible conocimiento sensible a actores que normalmente no lo tendrían tan al alcance.
Se reaviva el debate sobre la seguridad
La revelación llega en un momento en que el debate sobre la seguridad de la IA se intensifica. A comienzos de esta semana, Jacob Coxon dimitió de Anthropic. Afirmó que empleados de la compañía creen sinceramente que la IA podría destruir a la humanidad antes de que termine esta década.
Puede sonar extremo. Pero, junto con incidentes de este tipo, alimenta de nuevo la idea de que la tecnología avanza más rápido que las estructuras de seguridad que la rodean.
La ciberseguridad también sigue siendo un riesgo importante. En su informe, Anthropic menciona casos de uso indebido relacionados con fraude, vigilancia e intentos de monitorizar a disidentes.
Además, la compañía acusa a laboratorios chinos de IA de haber intentado replicar su tecnología mediante la llamada destilación.
Está claro que el mercado no se detiene de cara a la salida a bolsa de Anthropic en octubre. Hoy recibimos casi a diario grandes noticias sobre el mundo de la inteligencia artificial.
Nvidia rebota tras las fuertes caídas y Wall Street se tiñe de verde
Nvidia sube tras registrar fuertes pérdidas, mientras CoreWeave gana un 20%. Las acciones vinculadas a la inteligencia artificial impulsan Wall Street pese a la preocupación del mercado.
OKX y el propietario de la NYSE lanzan la negociación de acciones en cadena de bloques
OKX y la NYSE pondrán en marcha el 23 de noviembre la negociación digital de acciones. La oferta prevista incluye más de 70 acciones y ETF, pero ¿quién podrá acceder?
Recortan un 60% el precio objetivo de Nvidia por la polémica de su consejero delegado, Huang
Nvidia recibe una inusual rebaja de recomendación tras la polémica en torno a su consejero delegado, Jensen Huang. Sus acciones han caído casi un 30%, pero los analistas mantienen una visión positiva.
Más leídos
Ripple crece con fuerza, pero XRP no despega: Garlinghouse responde
El consejero delegado de Ripple, Brad Garlinghouse, responde a los rumores sobre XRP y aclara los planes de futuro de la empresa.
Google pierde 520.000 millones de dólares en bolsa tras una caída histórica
Las acciones de Google se desploman más de un 13% tras unos resultados por debajo de las expectativas. Alphabet pierde cientos de miles de millones de dólares de capitalización bursátil.
El «rey de las criptomonedas» canadiense se enfrenta a 14 años de cárcel: el jurado decide
El canadiense Aiden Pleterski, conocido como el «rey de las criptomonedas», se enfrenta a catorce años de prisión por un presunto fraude millonario. El jurado delibera sobre su culpabilidad o inocencia.