Legislación busca endurecer sanciones ante el uso no consentido de contenidos generados mediante inteligencia artificial, especialmente contra menores.
Una iniciativa legislativa en México plantea establecer penas de hasta 12 años de prisión por el uso indebido de tecnologías de inteligencia artificial en actos de violencia digital, con especial atención al daño que se causa a menores de edad. La propuesta surge tras advertencias sobre la proliferación de contenido que utiliza rostros de menores para generar material virtualmente, el cual puede causar traumas y consecuencias irreparables en las víctimas, incluso si las imágenes son creadas digitalmente. Datos recientes indican que una gran proporción de imágenes alteradas con IA corresponden a pornografía no consentida, afectando principalmente a niñas, niños y adolescentes. En 2023, se reportó la creación de más de 415 mil imágenes y 143 mil videos en esta modalidad, reflejando la magnitud del fenómeno. La legislación propuesta contempla que el uso no autorizado de imágenes de adultos sea sancionado con penas de cuatro a ocho años, mientras que en casos que involucren a menores, las penas aumentan hasta 12 años. Además, se establece el bloqueo inmediato de dispositivos y la eliminación de archivos ilícitos. La iniciativa busca actualizar el marco legal para proteger la privacidad y los derechos fundamentales, en un contexto donde la tecnología avanza rápidamente y puede ser empleada para actos dañinos sin regulación adecuada.