La herramienta de X limita su uso gratuito ante la creación de contenido explícito y deepfakes sin consentimiento.
Ciudad de México. La plataforma X (anteriormente Twitter) ha restringido el acceso gratuito a su generador de imágenes de inteligencia artificial, Grok, tras una proliferación de deepfakes y contenido sexual explícito creado sin consentimiento. La medida busca mitigar el uso indebido de la herramienta, que permitía la manipulación de rostros y cuerpos para generar imágenes humillantes o ridiculizantes.
La decisión de X se produce en respuesta a crecientes acusaciones y denuncias públicas por la creación y difusión de imágenes falsas, muchas de ellas de carácter sexual y violento, que afectaron a usuarios, incluyendo la alteración de fotografías de mujeres y hombres. Grok ahora solicita a los usuarios contratar una suscripción para acceder a sus funciones de generación de imágenes, marcando un cambio significativo en la accesibilidad de esta tecnología.
Este cambio en el acceso a Grok también se interpreta como una medida preventiva ante la presión de reguladores en diversos países. Gobiernos han advertido sobre posibles sanciones económicas a plataformas que faciliten la manipulación de imágenes con fines de acoso o violencia digital. El Reino Unido, en particular, ha intensificado su escrutinio sobre empresas tecnológicas que permiten la creación de deepfakes que atentan contra la privacidad y la dignidad de las personas.
El nuevo modelo de suscripción implica que los usuarios deberán proporcionar datos personales y financieros, información que, según advertencias de la propia inteligencia artificial, podría ser utilizada para identificar a quienes hagan un uso indebido de las funciones. Esta política de datos busca aumentar la transparencia y la rendición de cuentas en el uso de la herramienta.
La capacidad de generar deepfakes, especialmente con fines sexuales, ha sido un tema de creciente preocupación a nivel global. La tecnología, aunque innovadora, presenta riesgos significativos para la privacidad y la seguridad de los individuos, y su uso malintencionado puede tener consecuencias devastadoras. La acción de X refleja una tendencia en la industria tecnológica a implementar controles más estrictos sobre el uso de inteligencias artificiales generativas, especialmente cuando estas pueden ser empleadas para la creación de contenido dañino o ilegal.