Media sanción a la ley contra deepfakes sexuales: ¿qué propone la iniciativa de Ledesma?

La Cámara de Diputados de Catamarca aprobó por media sanción un proyecto de ley que busca prevenir, asistir y sancionar la creación y difusión de deepfakes sexuales y contenido íntimo sin consentimiento mediante inteligencia artificial.

La iniciativa, impulsada por el jefe de la bancada oficialista, Juan Carlos Ledesma, fue tratada durante la 11ª sesión ordinaria y ahora deberá ser analizada por el Senado provincial.

¿Qué es un deepfake sexual?

Se trata de contenidos generados, alterados o manipulados con inteligencia artificial que simulan la voz, imagen, identidad o comportamiento de una persona, vulnerando su privacidad, intimidad y dignidad.

Durante el debate, Ledesma advirtió que esta problemática "comienza a naturalizarse" con la expansión de estas herramientas y puede generar graves consecuencias para las víctimas.

Protección especial para menores y sanciones más duras

El proyecto pone especial énfasis en la protección de niños, niñas y adolescentes, ya que las situaciones denunciadas no involucran únicamente a mayores de edad.

Además, establece sanciones contravencionales que se agravan cuando existe hostigamiento, humillación, intimidación, amenaza, extorsión, lucro o venganza. También contempla una protección especial para personas vulnerables.

Observatorio Provincial de Violencia Digital

Uno de los puntos centrales es la creación del Observatorio Provincial de Violencia Digital, que tendrá como funciones recopilar información, elaborar informes, acompañar a las víctimas y desarrollar campañas de prevención y capacitación.

También se promoverá la educación sobre violencia digital, privacidad, consentimiento, identidad digital, protección de datos y uso responsable de la inteligencia artificial, con incorporación progresiva en el nivel secundario y posibles convenios con universidades.

La iniciativa contempla mecanismos para facilitar la denuncia, detección, remoción y bloqueo del contenido, así como el derecho de las víctimas a recibir asesoramiento legal, acompañamiento psicológico y protección de su identidad.

“No se busca criminalizar la inteligencia artificial”

Ledesma remarcó que la propuesta no apunta contra la tecnología, sino contra su uso indebido: “Lo que no se busca es criminalizar la inteligencia artificial, lo que se busca es sancionar el uso indebido cuando afecta la intimidad y la dignidad de las personas”.

El legislador también señaló que esta problemática ya está siendo regulada en otros países y que el Estado provincial necesita herramientas concretas para actuar frente a plataformas digitales y empresas tecnológicas.

Tras el debate, que contó con aportes de distintos bloques, el proyecto fue aprobado en un marco de consenso general y ahora continuará su tratamiento en el Senado de Catamarca.