La Comisión Europea investiga a la red social X por generar imágenes sexuales deepfake sin consentimiento

La Comisión Europea ha abierto este lunes una investigación contra la red social X (antes Twitter), cuyo dueño es Elon Musk, por las imágenes sexuales deepfake generadas sin consentimiento por su inteligencia artificial, Grok, además de otros contenidos.

De esta manera, Bruselas ha abierto un expediente sancionador en el que no establece un plazo claro para la conclusión de esta, aunque se abordará como un tema "prioritario".

X permite que los usuarios pidan generación de imágenes sexualizadas

Este tema aborda concretamente el hecho de que la Inteligencia Artificial de X (Grok) permita a los usuarios de la plataforma, a través de sus herramientas de generación y edición de imágenes, pedir al mencionado Grok que genere imágenes de mujeres en bikinis o ropa reveladora con rostros de personas reales.

Las 27 naciones que forman el ejecutivo de la UE también se encuentran investigando si la red social ha hecho lo suficiente para contener los riesgos de difundir contenido ilegal, como "imágenes sexualmente explícitas manipuladas", las cuales además pueden contener también "material de abuso sexual infantil".

X se defiende

Ante estas investigaciones, un portavoz de la empresa destacó que la red social sigue "comprometida a hacer de X una plataforma segura para todos" y que tiene "tolerancia cero" con la explotación sexual infantil, la desnudez no consensuada y el contenido sexual no deseado.

En el otro lado se encuentra la versión de la Comisión Europea: "Los deepfakes sexuales no consensuados de mujeres y niños son una forma violenta e inaceptable de degradación", explicó Henna Virkkunen, vicepresidenta ejecutiva de la comisión. "Con esta investigación, determinaremos si X ha cumplido con sus obligaciones legales bajo la DSA, o si ha tratado los derechos de los ciudadanos europeos, incluidos los de mujeres y niños, como daños colaterales de su servicio", admitió Virkkunen.

Síguenos en nuestro canal de WhatsApp y no te pierdas la última hora y toda la actualidad en nuestro perfil de Google.