Unión Europea Abre Investigación a X por Imágenes Sexualizadas de Grok

La Comisión Europea anunció este lunes 26 de enero la apertura de una investigación contra la red social X por la creación de imágenes sexualizadas y desnudos sin consentimiento por parte de su inteligencia artificial, Grok.

Se indicó que la indagatoria examinará si la compañía propiedad del magnate Elon Musk cumple con sus obligaciones bajo las leyes digitales europeas.

En un comunicado, Bruselas dijo que evaluará si X ha examinado adecuadamente y mitigado los riesgos asociados con la puesta en marcha de las funciones de Grok en la Unión Europea.

Eso incluye la posible distribución de contenido ilegal como imágenes manipuladas sexualmente explícitas, que incluso pueden considerarse material de abuso sexual infantil.

Noticia relacionada: El Pentágono Comenzará a Utilizar la AI Grok, Propiedad de Elon Musk
               
"Estos riesgos parecen haberse materializado. Por ello, la Comisión investigará si X cumple con sus obligaciones bajo la Ley de Servicios Digitales para evaluar y mitigar riesgos sistémicos (...) y de producir y enviar a la Comisión un informe de riesgos ad hoc sobre las funcionalidades de Grok que tengan un impacto clave en el perfil de riesgo de X antes de lanzarlo", señaló.

Las advertencias de la UE

Incluso antes de lanzar la investigación, la Comisión Europea ya había ordenado a la red social X conservar toda su documentación interna relativa a Grok durante 2026, en el marco de la investigación que mantiene abierta a la plataforma para analizar su política contra los contenidos ilegales.

Noticia relacionada: Indonesia Bloquea a Grok Tras la Proliferación de Imágenes Sexuales Hechas con IA

La orden llegó en plena polémica por las imágenes de niños y mujeres desnudas generadas por Grok en las últimas semanas y que han llevado al gobierno francés a denunciar a X ante los tribunales, que se añaden a otros contenidos como el blanqueo del Holocausto que la IA de la red social publicó a finales del año pasado.

La Comisión Europea cree que, si da por probadas estas alegaciones, X estaría infringiendo varios artículos de la Ley de Servicios Digitales a la que está sujeta cuando opera en la Unión Europea, incluyendo sobre la evaluación y mitigación de riesgos sistémicos para los ciudadanos europeos.

¿Qué dijo X?

En respuesta a una solicitud de comentarios, una portavoz de X dirigió a The Associated Press a una declaración anterior en la que la compañía afirma que sigue "comprometida a hacer de X una plataforma segura para todos" y que tiene "tolerancia cero" para la explotación sexual infantil, la desnudez no consensuada y el contenido sexual no deseado.

La declaración de X del 14 de enero también decía que dejaría de permitir a los usuarios representar a personas en "bikinis, ropa interior u otra vestimenta reveladora", pero solo en lugares donde sea ilegal.

"Los deepfakes sexuales no consensuados de mujeres y niños son una forma violenta e inaceptable de degradación", afirmó este lunes Henna Virkkunen, vicepresidenta ejecutiva de la comisión.

Noticia relacionada: Usuarios de X Usan Grok para Quitar Ropa a Mujeres, ¿Es Delito en México con la Ley Olimpia?

Bruselas ya multó a X en diciembre con 120 millones de euros por incumplir sus obligaciones de transparencia de acuerdo a esta ley por el "diseño engañoso" de su marca de verificación azul, la falta de transparencia de su repositorio publicitario y la falta de acceso a los datos públicos para los investigadores.

En paralelo, prorrogó también este lunes su investigación en marcha desde 2023 sobre si X cumple con sus obligaciones de gestión de riesgos de sus sistemas de recomendación de contenido, que incluirá el impacto de cambiar a uno basado en la inteligencia artificial de Grok.

Historias recomendadas:

• Criminales Intentan Someter a la Autoridad en Salamanca, Dice Alcalde; Pide Reforzar Valores

• Trump Afirma que Revisan Todo Sobre Asesinato de Pretti en Minneapolis y Emitirán Resolución

• Patriots vs Seahawks en Super Bowl LX: Una Revancha de Hace 11 Años

Con información de Agencias

ASJ