Google alerta: hackers usan IA para vulnerar seguridad

Los cibercriminales utilizan cada vez más la inteligencia artificial para realizar ataques digitales sofisticados. Según Google, es la primera vez que se ha confirmado que los hackers han empleado IA para descubrir de forma independiente una vulnerabilidad de software desconocida y explotarla activamente.

Esto se desprende de un nuevo informe del Grupo de Inteligencia de Amenazas de Google. Los investigadores detectaron un ataque a gran escala en el que los criminales explotaron una vulnerabilidad de tipo zero-day en un popular software de código abierto para la gestión de sistemas. A través de dicha vulnerabilidad, los atacantes pudieron eludir la autenticación de dos factores (2FA).

Google detecta claros indicios del uso de IA

Según Google, existe una “gran certeza” de que los hackers utilizaron un modelo de lenguaje extenso (LLM), similar a sistemas como ChatGPT o Claude.

Los investigadores encontraron múltiples indicios de salida generada por IA en el código de exploit utilizado. El script contenía el formato típico de los modelos de IA e incluso una llamada alucinación de IA, un error común en el código generado automáticamente.

Google subraya que la vulnerabilidad era especialmente difícil de detectar. No se trataba de un simple error de programación, sino de un complejo fallo lógico en lo profundo del software.

“Este tipo de errores semánticos son precisamente las vulnerabilidades en las que los sistemas de IA modernos son cada vez mejores,” señala Google.

Los atacantes lograron eludir la seguridad del 2FA

Para llevar a cabo el ataque, los hackers primero necesitaban credenciales de inicio de sesión válidas. Luego, pudieron desactivar la segunda capa de seguridad.

La autenticación de dos factores se utiliza en todo el mundo como seguridad adicional para cuentas, también dentro del sector de las criptomonedas. Muchas bolsas de criptomonedas y proveedores de monederos confían en el 2FA para proteger a los usuarios contra hacks y phishing.

Google no reveló qué software fue afectado específicamente, pero mencionó que se trató de un ataque organizado en el que participaron varios cibercriminales.

China y Corea del Norte invierten en hackeo con IA, según Google

En el informe, Google también menciona a China y Corea del Norte como países que, según la empresa, muestran gran interés en operaciones cibernéticas impulsadas por IA.

Además, Google advierte que varios grupos de malware ya utilizan activamente IA para hacer que el software malicioso sea más difícil de detectar. Familias de malware como PROMPTFLUX, HONESTCUE y CANFAIL estarían utilizando IA para generar automáticamente código adicional que intenta evadir el software de seguridad.

La IA transforma fundamentalmente la cibercriminalidad

Según Google, también está creciendo rápidamente el abuso de plataformas de IA premium. Los cibercriminales estarían utilizando sistemas automatizados para compartir cuentas de IA, robar claves de API y evadir las medidas de seguridad de los servicios de IA.

Esto les permite a los hackers tener acceso prolongado a modelos de IA potentes, con los que pueden llevar a cabo ataques de manera más rápida, inteligente y a mayor escala.

Google concluye que todo el ecosistema de IA se ha convertido en un objetivo atractivo para los cibercriminales. Especialmente los sistemas que combinan IA con fuentes de datos externas o funciones autónomas serían especialmente vulnerables.

Al mismo tiempo, la empresa destaca que los hackers aún no han logrado romper por completo la seguridad central de los modelos avanzados de IA.