Bill Gates advierte de los riesgos que plantea una inteligencia artificial cada vez más potente. Según el fundador de Microsoft, la IA ya tiene capacidad suficiente para causar daños a una escala enorme si cae en manos equivocadas.
Por ello, considera que las empresas tecnológicas no deben decidir por sí solas qué medidas de seguridad son suficientes. A su juicio, los gobiernos y los reguladores deben intervenir de forma mucho más activa.
Gates teme sobre todo el uso indebido de la IA
“La IA ya es lo bastante potente como para provocar acontecimientos en los que mueran mil millones de personas”, afirmó Gates en una entrevista con NBC.
Según Gates, el mayor peligro no reside solo en la tecnología en sí, sino sobre todo en lo que puedan hacer con ella actores malintencionados.
“Nunca ha existido un arma tan poderosa como la combinación de personas con malas intenciones y las herramientas de IA más avanzadas”.
Gates ya había advertido anteriormente de ciberataques, fraudes y campañas de desinformación impulsadas por IA. También hospitales, bancos, redes eléctricas y sistemas gubernamentales pueden convertirse, según él, en objetivos.
Aumenta la preocupación en Silicon Valley
La advertencia de Gates se enmarca en un debate más amplio dentro del sector tecnológico. Cada vez más voces de Silicon Valley alertan de los riesgos de una IA extremadamente potente.
Un empleado de Anthropic dimitió este mes y acusó a Anthropic y OpenAI de “jugarse nuestras vidas” al acelerar cada vez más el desarrollo de una IA superinteligente.
El consejero delegado de Anthropic, Dario Amodei, también ha pedido ralentizar el desarrollo de sistemas de IA muy potentes. Ese llamamiento recibió el apoyo, entre otros, del consejero delegado de OpenAI, Sam Altman, y de Elon Musk.
Gates pide normas obligatorias
Para Gates, la autorregulación de las empresas de IA no es suficiente.
“Hay que incorporar a las fuerzas de seguridad y a los responsables políticos al debate sobre cómo deben ser las salvaguardas y la supervisión”, señaló. “Y eso debe ser obligatorio”.
Con ello, Gates aboga por un control más estricto de las empresas de IA y por normas claras para el desarrollo de sistemas cada vez más potentes.
OpenAI, creadora de ChatGPT, desarrolla un sistema de parada de emergencia tras incumplir su IA las normas
OpenAI presenta Control Room, un sistema capaz de detener experimentos de IA de riesgo en 35 segundos. Los incidentes previos con acciones no autorizadas ponen de relieve su importancia.
Anthropic presenta Fable y Mythos, sus nuevos modelos de IA, ante una posible salida a bolsa
Anthropic presenta sus nuevos modelos de IA Fable 5.2 y Mythos 5.2 poco antes de una posible salida a bolsa. Serán más rápidos y baratos.
SpaceX planea invertir 24.000 millones de dólares en un superordenador de IA en Texas
SpaceX planea invertir 24.000 millones de dólares en un superordenador de IA y una central eléctrica propia en Texas. La oposición política podría retrasar los planes de Musk.
Más leídos
Científicos producen oro auténtico, pero nadie puede tocarlo
Una empresa emergente estadounidense afirma que puede transformar mercurio en oro, aunque la tecnología aún presenta importantes limitaciones.
XRP se desploma un 10%: ¿por qué cae tanto?
El precio de XRP cae un 9%, hasta los 1,19 dólares. El desplome de Wall Street y la victoria electoral de los demócratas generan inquietud en los mercados.
Google pierde 520.000 millones de dólares en bolsa tras una caída histórica
Las acciones de Google se desploman más de un 13% tras unos resultados por debajo de las expectativas. Alphabet pierde cientos de miles de millones de dólares de capitalización bursátil.