La propuesta busca controlar videos y fotos generados por inteligencia artificial, pero podría limitar la libertad de expresión en plataformas digitales.
Una nueva propuesta legislativa en México plantea implementar sistemas automáticos para detectar, eliminar y bloquear contenidos creados mediante inteligencia artificial, especializados en deepfakes y otros videos o imágenes manipuladas. La iniciativa tiene como objetivo principal reducir los efectos dañinos de la violencia digital, especialmente en los jóvenes, quienes son víctimas frecuentes de contenidos falsificados con fines sexuales o difamatorios.
A nivel internacional, la tecnología de deepfakes se ha convertido en una herramienta de suma preocupación, pues su uso indebido ha alcanzado tasas alarmantes, con hasta el 95% de estos contenidos en línea relacionados con pornografía no consentida. La mayor parte de las víctimas son mujeres, lo que evidencia un impacto social profundo. Sin embargo, los expertos advierten que la regulación excesiva podría abrir paso a prácticas de censura indiscriminada, afectando derechos fundamentales como la libertad de expresión y el acceso a información veraz.
Además, la iniciativa presenta dificultades jurídicas y técnicas. Las plataformas digitales, que no operan bajo concesiones del Estado, no están sujetas a las mismas regulaciones que los medios tradicionales, lo que genera un conflicto legal en la implementación de controles automáticos. Sin un marco normativo claro y proporcional, corre el riesgo de que se eliminen contenidos legítimos bajo la excusa de proteger a menores o promover un desarrollo integral, afectando la pluralidad de voces y opiniones en internet.
Por otra parte, experiencias internacionales muestran la complejidad de regular tecnologías emergentes. En Brasil, una ley similar que endurece la verificación de edad en redes sociales busca proteger a menores del contenido dañino, aunque su aplicación aún enfrenta obstáculos legales y operativos. Para evitar estas complicaciones, especialistas sugieren que las reglas técnicas sobre control parental y seguridad en dispositivos digitales se establezcan mediante normativas específicas, preferiblemente a través de normas oficiales, con participación activa de los fabricantes.
El creciente avance tecnológico obliga a los gobiernos a diseñar regulaciones que sean eficientes, justas y adaptadas al ritmo de la innovación, sin restringir derechos básicos. En este contexto, la discusión sobre cómo gestionar la inteligencia artificial en los contenidos digitales continúa siendo central para equilibrar protección y libertad en la era digital.