Usuarios en México y el mundo han denunciado en los últimos días la transformación de fotos de personas reales en imágenes con carácter sexual, afectando incluso a menores de edad
La plataforma X propiedad de Elon Musk informó que pondrá en marcha medidas para impedir que Grok, su desarrollo de Inteligencia Artificial, transforme fotos de personas reales en imágenes con carácter sexual.
En los últimos días, usuarios en México y el mundo han denunciado la generación de ese tipo de contenido, afectando incluso a menores de edad.
Karina Velasco, víctima de violencia sexualdigital, indicó:
En Año Nuevo subí una foto y de repente me comenzaron a llegar notificaciones de muchas cuentas de usuarios de X pidiéndole a Grok que me pusieran en bikini y en otras situaciones muy comprometedoras, pues lo que me provocó fue una fuerte indignación
Grok, el chatbot de Inteligencia Artificial integrado a la red social X, antes Twitter, transformó en cuestión de segundos la fotografía de Karina en decenas de imágenes sexualizadas.
"Este tipo de imágenes sí provocan daños emocionales en las mujeres y más cuando son usadas para incitar el escarnio público contra nosotras", señaló Velasco.
Karina afirmó que emprenderá acciones legales contra usuarios y contra la propia plataforma.
De alguna manera esa plataforma tiene que hacerse responsable
Desde finales de diciembre, una función gratuita de Grok permitía remover digitalmente la vestimenta en fotografías publicadas. Usuarios generaron imágenes sexualizadas de mujeres, hombres y presuntamente menores de edad.
Video: Exhorta la Secretaría de las Mujeres a Red Social X Evitar la Creación de Imágenes Sexualizadas
Al respecto Alejandra Lagunes, presidenta de la Alianza Nacional de Inteligencia Artificial, explicó:
La tecnología no es buena ni mala, sin embargo, los malos usos como este, pues hacen que la gente pierda confianza en una tecnología tan transformadora como lo es la Inteligencia Artificial
El 1 de enero, Grok reconoció que hubo casos aislados en los que usuarios solicitaron y recibieron imágenes de menores con ropa mínima.El 9 de enero, la plataforma restringió la herramienta a usuarios premium. Sigue disponible si se paga una cuota mensual.
Sobre las medidas, Karina Velasco asegura:
No me parece ético y no me parece correcto que solamente las personas que tienen dinero puedan acceder a ese tipo de contenido, ninguna persona tiene derecho, tengan dinero o no a crear ese tipo de contenidos, ni contra mujeres ni contra niños
El dueño de X,Elon Musk, afirmó que no tiene conocimiento de la generación mediante Grok de imágenes de menores desnudos y aseguró que la herramienta no produce contenido de forma espontánea.
Días antes, Musk modificó una imagen de sí mismo para aparecer en bikini.
La presidenta de la Alianza Nacional de Inteligencia Artificial, señaló:
Aquí no puede nadie lavarse las manos y decir que no es responsable o que el responsable es quien hizo la imagen y no la plataforma, me parece que hay responsabilidad en todos
Países como Reino Unido, Malasia e Indonesia han tomado medidas contra Grok, incluido su bloqueo temporal. En México, la Secretaría de las Mujeresexhortó a X a evitar que la plataforma reproduzca violencia de género, que se sanciona bajo la Ley Olimpia y la Policía Cibernética en la Ciudad de México informó que en los últimos días ha recibido reportes por el uso indebido de Grok en perjuicio de usuarios de la plataforma.
Joselyn Vicente, suboficial de la Policía Cibernética de la SSC, precisó:
Damos seguimiento más allá de darlos de baja, porque justamente esto si es un delito, si es mayor de edad, Ley Olimpia y segundo, si es menor de edad, que lleva es Ley Olimpia y eso es pornografía infantil
La autoridad recomienda a las víctimas de violencia sexual digital presentar una denuncia formal ante las instancias correspondientes.
Historias recomendadas:
Atacan a Balazos a Dos Agentes de Inteligencia Cerca de Paradero del Rosario, en Azcapotzalco
Doble Feminicidio Cuautitlán: Celos y un Testigo, las Claves del Asesinato de Teresita y Cindy
Resultado América vs Atlético de San Luis Hoy: ¿Cómo Quedó el Partido de Jornada 2 en Liga MX?
Con información de Víctor Valles Mata, Víctor Olvera y Fernando GuillénLECQ
