La UE investiga X de Musk: Grok difunde deepfakes sexuales

La Unión Europea ha iniciado una investigación oficial sobre X, la plataforma de Elon Musk, debido a la difusión de deepfakes sexuales a través de su chatbot de IA, Grok. La Comisión Europea examina si la plataforma ha fallado gravemente en limitar los riesgos asociados al uso de Grok en la UE.

Grok genera deepfakes sexuales de mujeres y niños

La investigación se centra en informes alarmantes de que Grok, el chatbot de IA de X, distribuye sin permiso deepfakes sexuales de mujeres e incluso menores. Según la Comisión Europea, algunas imágenes podrían ser tan graves que se considerarían material de abuso infantil.

Esto no solo es impactante, sino también ilegal. Y precisamente eso hace que este caso sea tan explosivo: Grok es visto como una fuente de explotación digital. «Los deepfakes sexuales sin consentimiento son una forma violenta e inaceptable de degradación», señaló la comisaria europea de tecnología Henna Virkkunen.

No solo Bruselas está preocupada. También reguladores en el Reino Unido han iniciado una investigación formal bajo la nueva Ley de Seguridad en Línea. Y desde Francia e India se escucha la misma indignación: X haría insuficientes esfuerzos para detener estas imágenes.

X enfrenta una posible multa bajo la Ley de Servicios Digitales

X, la plataforma que pertenece a la empresa de IA de Musk, xAI, afirma que actúa activamente contra contenido ilegal como la pornografía infantil. Según la empresa, se suspenden cuentas sospechosas y se colabora con las autoridades. Sin embargo, la Comisión Europea duda si X ha tomado suficientes precauciones al introducir Grok en Europa.

La investigación llega en un momento delicado. No hace mucho, X recibió una multa de 120 millones de euros por engañar a los usuarios y la falta de transparencia. Esa sanción estaba relacionada, entre otras cosas, con la verificación azul y la gestión de datos publicitarios. Según la Ley de Servicios Digitales, la Unión Europea puede multar a las empresas con hasta el seis por ciento de su facturación anual global.

Musk y EE. UU. critican enfoque europeo

Desde Estados Unidos se escuchan críticas duras al enfoque europeo. El vicepresidente estadounidense JD Vance calificó la multa anterior como «un ataque a la libertad de expresión» y sugirió que la UE debería centrarse en proteger la libre expresión en lugar de atacar a empresas estadounidenses.