Deepfakes sexuales: Catamarca avanza con una ley pionera contra la violencia digital

La Cámara de Diputados de Catamarca dio un paso clave este miércoles al aprobar en general un proyecto que busca combatir los deepfakes sexuales y el mal uso de la inteligencia artificial. La iniciativa, impulsada por el diputado Juan Carlos Ledesma (FT), apunta a prevenir y sancionar una de las formas más nuevas y preocupantes de violencia digital.

¿Qué propone el nuevo régimen?

El proyecto establece un marco legal para intervenir cuando se generen, manipulen o difundan contenidos sexuales falsos creados con inteligencia artificial, sin el consentimiento de la persona afectada. Las sanciones podrían agravarse en casos de hostigamiento, humillación, intimidación, amenaza, extorsión, lucro o venganza, y también cuando exista un vínculo de pareja, expareja, familiar, laboral, educativo o institucional entre la víctima y el responsable.

Uno de los puntos centrales es el consentimiento: el proyecto deja en claro que publicar una foto en redes sociales no autoriza su uso posterior para crear contenido íntimo o sexual mediante IA.

“La tecnología avanza y también las nuevas formas de violencia”

Durante el debate, la diputada Saseta subrayó que esta problemática ya es una realidad concreta. “La tecnología avanza enormemente y también avanza en las oportunidades que genera de las nuevas formas de violencia, de hostigamiento y vulneración de derechos que requieren respuestas del Estado”, sostuvo.

Además, explicó que la iniciativa distingue entre conductas contravencionales y aquellas que puedan constituir delitos de acción pública, las cuales serán investigadas por el Ministerio Público Fiscal. También remarcó que el daño sobre la persona identificable es real, aunque el contenido haya sido creado artificialmente.

Crearán un Observatorio Provincial de Violencia Digital

El proyecto contempla la creación de un Observatorio Provincial de Violencia Digital, que tendrá como funciones recopilar datos, elaborar informes, acompañar a las víctimas y desarrollar campañas de prevención y capacitación. También se incorporarán contenidos educativos sobre violencia digital, privacidad, consentimiento, identidad digital, protección de datos e inteligencia artificial, de forma progresiva en el nivel secundario, y se prevén convenios con universidades.

Un debate que también llegó a la política

La sesión tuvo un momento especial cuando el diputado Puente relató su propia experiencia con la IA. Según contó, el año pasado denunció la circulación de videos generados con inteligencia artificial que lo acusaban falsamente de distintos delitos, y aseguró haber informado a las autoridades.

Desde la UCR, Luis Fadel expresó el respaldo de su bloque y afirmó: “Estamos avanzando en una legislación sobre algo que es una realidad que muchas veces afecta y que muchas veces daña y perjudica”. Además, confió en que el Senado tratará pronto la iniciativa.

“No tenemos que prohibir que avance”

Saseta también defendió la necesidad de poner límites legales sin frenar el desarrollo tecnológico. “Cuando la tecnología avanza no tenemos que prohibir que avance, pero sí tenemos que generar el marco legal para que esa tecnología cuando avance lo haga con respeto, sin vulnerar derechos”, señaló.

Por su parte, Ledesma insistió en que su proyecto está enfocado específicamente en las falsificaciones sexuales y en el uso de imágenes de adultos y menores para crear contenido íntimo. Con la media sanción, la iniciativa pasará al Senado de Catamarca para continuar su trámite legislativo.