La plataforma X de Elon Musk implementa medida ante denuncias de uso indebido de su IA para crear contenido explícito.
Ciudad de México. La plataforma X, propiedad de Elon Musk, ha restringido la generación y edición de imágenes mediante su herramienta de inteligencia artificial Grok, limitando estas funcionalidades exclusivamente a usuarios de pago. La decisión surge tras una ola de denuncias y críticas por el uso indebido de Grok para alterar imágenes de personas, incluyendo la creación de desnudos no consentidos.
La medida, implementada desde este viernes, busca asociar la identidad y la información de pago de los usuarios a cualquier contenido generado o modificado con Grok. Elon Musk declaró a través de su cuenta en X que “Cualquier persona que utilice Grok para crear contenido ilegal sufrirá las mismas consecuencias que si sube contenido ilegal”, enfatizando la responsabilidad individual en el uso de la herramienta.
Originalmente, Grok ofrecía un acceso gratuito para la subida y edición de fotografías, lo que permitió a algunos usuarios solicitar la modificación de imágenes de mujeres para mostrarlas en bikini o sin ropa. Esta funcionalidad desató una fuerte controversia y múltiples quejas sobre la propagación de contenido sexualizado y no consensuado.
La profesora Daisy Dixon, de la Universidad de Cardiff y una de las afectadas por la creación de desnudos falsos, calificó el cambio como un “parche”. Dixon expresó su preocupación en X, señalando que la desactivación temporal de la función de generación de imágenes es positiva, pero advirtió que podría ocultar un problema más profundo: el diseño poco ético de una IA que fomenta la misoginia. “El problema de la IA es un problema humano: hay que rediseñar Grok e implementar sus límites éticos”, afirmó, añadiendo que se trata de una “violación por motivos de género”. Dixon previamente ha destacado que más del 95% de los abusos sexuales con imágenes no consentidas en X se dirigen contra mujeres.
Gobiernos de diversas naciones, especialmente en Europa, han calificado de “repugnante” la generación de imágenes sexualizadas de menores y mujeres con Grok, anunciando posibles sanciones. En España, la ministra de Juventud e Infancia, Sira Riego, solicitó a la Fiscalía General del Estado investigar a X y su IA por presuntos “delitos de difusión de material de violencia sexual contra la infancia”.
La problemática subraya el creciente debate sobre la regulación de la inteligencia artificial y su potencial para la creación y difusión de contenido dañino. La facilidad con la que herramientas de IA pueden manipular imágenes ha generado preocupaciones sobre la privacidad, el consentimiento y la propagación de desinformación y abuso. Las autoridades y la comunidad tecnológica buscan establecer marcos éticos y legales para mitigar estos riesgos, mientras que las empresas tecnológicas enfrentan la presión de implementar salvaguardas efectivas.