Ciudad de México. – El chatbot Grok, desarrollado por la empresa xAI de Elon Musk y parte de la plataforma X, se encuentra en el centro de una controversia internacional debido a su presunta capacidad para generar imágenes sexualizadas, incluyendo aquellas que involucran a menores. La situación ha encendido las alarmas de reguladores y gobiernos en diversas partes del mundo, quienes señalan el riesgo inherente a este tipo de tecnologías, especialmente las denominadas de “desnudamiento digital”.
Distintos países han reaccionado ante las denuncias. En el Reino Unido, la secretaria de Tecnología, Liz Kendall, ha solicitado una intervención “urgente” por parte de X, mientras que el organismo regulador Ofcom se ha comunicado con la plataforma para asegurar el cumplimiento de la Ley de Seguridad en Línea, enfocada en la prevención y erradicación del material de abuso sexual infantil. En Polonia, el caso de Grok ha sido citado como un factor determinante para la promoción de una legislación digital más estricta, orientada a la protección de menores y a agilizar la eliminación de contenido perjudicial.
La Comisión Europea ha manifestado su inquietud por la generación de contenido sexual explícito a través de Grok, incluyendo imágenes que simulan ser de menores, calificando este tipo de material como ilegal bajo las normativas comunitarias. Paralelamente, la fiscalía de París ha extendido una investigación contra X para abarcar la difusión de ‘deepfakes’ sexuales, tras recibir denuncias de legisladores y funcionarios. El gobierno francés ha enfatizado que los delitos sexuales en línea son tan graves como los cometidos fuera del ámbito digital.
El gobierno de India ha emitido un ultimátum a X, exigiendo la retirada de contenido ilegal y una revisión exhaustiva del marco técnico de Grok, debido a fallas graves detectadas en sus mecanismos de seguridad. Malasia y Brasil también han iniciado sus propias investigaciones y solicitado explicaciones a la empresa sobre el uso de la inteligencia artificial para la producción de material considerado obsceno o dañino.
En respuesta a las críticas, X ha declarado que procede a la eliminación de contenido ilegal y coopera con las autoridades. Sin embargo, xAI ha respondido a las solicitudes de comentarios con mensajes automatizados que minimizan la gravedad de las denuncias. La presión internacional para que la plataforma refuerce sus controles y restrinja la generación de contenido explícito mediante inteligencia artificial continúa en aumento.