Piden sancionar la producción y distribución de contenidos sexuales con niños creados con IA

El diputado Juan Luis Carrillo Soberanis (PVEM), propuso reformar el Código Penal Federal para sancionar con pena de siete a doce años de prisión y de ochocientos a dos mil días multa, a quien, mediante el uso de inteligencia artificial, técnicas digitales para la manipulación de imagen, voz, audio o video, o cualquier otra tecnología similar, genere, altere, simule o reproduzca contenidos que representen actos sexuales o de exhibicionismo corporal con fines lascivos o sexuales.

La iniciativa, turnada a la Comisión de Justicia, plantea adicionar dos párrafos al artículo 202 de dicho ordenamiento, en el Capítulo II “Pornografía de personas menores de dieciocho años de edad o de personas que no tienen capacidad para comprender el significado del hecho o de personas que no tienen capacidad para resistirlo”.

Busca castigar con las mismas penas a quien almacene, distribuya, publique, difunda, comercialice, transmita o intercambie el contenido generado o manipulado por cualquier medio físico, electrónico, digital o tecnológico.

Argumenta que México está entre las naciones con mayores índices de generación y distribución de material de abuso sexual infantil, lo que refleja la urgencia de fortalecer las políticas públicas, las leyes y las capacidades institucionales para combatir esta grave problemática.

Refiere que es indispensable adecuar el marco normativo para sancionar a quienes empleen esa tecnología con fines de explotación o abuso sexual infantil, y así salvaguardar la dignidad, integridad y derechos de las y los menores ante las amenazas digitales. 

Las nuevas tecnologías representan oportunidades, indica, pero también plantean riesgos, especialmente en lo que respecta al uso de la inteligencia artificial para fines ilícitos, por lo que se debe adecuar la legislación. 

“Esta tecnología, aunque en muchos casos tiene aplicaciones legítimas en sectores como el entretenimiento, la educación, la publicidad o la medicina, está siendo utilizada con fines ilícitos, como la creación de material sexual manipulado o fabricado digitalmente, en el cual se representan niñas, niños y adolescentes en situaciones de abuso o explotación”.

De acuerdo con la Red por los Derechos de la Infancia en México, señala, el problema no solo radica en la producción y difusión de este tipo de contenido, sino en “la peligrosa normalización social del abuso y la explotación sexual de niñas, niños y adolescentes en entornos digitales”.

Ello contribuye a la desensibilización colectiva y abre la puerta a que el abuso sea tolerado, minimizado o replicado en la realidad, generando un entorno de inseguridad y vulnerabilidad para la infancia, advierte.

Agrega que el acelerado desarrollo de las tecnologías digitales ha permitido crear materiales y contenidos hiperrealistas, con imágenes, audios o videos prácticamente indistinguibles de la realidad, capaces de recrear rostros, voces y movimientos humanos con gran precisión.

Destaca que existe un vacío normativo y una urgente necesidad de actualizar los marcos legales existentes, ya que este tipo de material, aunque no involucre a víctimas reales, perpetúa la explotación sexual digital, contribuye a normalizar el abuso y puede utilizarse para fines de extorsión o acoso. 

Considera que el Estado mexicano debe asumir un papel activo y preventivo en la regulación del uso de la inteligencia artificial, estableciendo límites claros, sanciones y mecanismos de supervisión tecnológica para proteger a la niñez y adolescencia de los riesgos del entorno digital.