Reconocimiento facial en Mendoza: cómo funcionará el control humano de las alertas de IA

El Gobierno de Mendoza oficializó este jueves el decreto que regula el uso del sistema de videovigilancia con reconocimiento facial. La medida, publicada en el Boletín Oficial, establece un doble control humano para validar las alertas generadas por inteligencia artificial.

El decreto 1673 define las condiciones de uso, los mecanismos de validación y las protecciones para los datos personales. Según el Ejecutivo, el sistema ya está operativo: desde su puesta en marcha, generó 107 alertas y permitió detener a 23 personas.

¿Cuándo se activan las alertas?

Para incluir a alguien en la lista de alertas, se necesitará una fuente habilitante verificable del Ministerio Público Fiscal o del Poder Judicial, ya sea provincial o nacional. Las alertas solo se activarán en tres situaciones: búsqueda de personas desaparecidas o extraviadas, control de personas con prisión o detención domiciliaria bajo orden judicial, y pedidos de captura o detención.

Doble instancia de control humano

La normativa aclara que una alerta de coincidencia es solo un indicio, no una conclusión. El algoritmo no puede, por sí solo, identificar a alguien ni restringir sus derechos. Las alertas que no alcancen el umbral técnico establecido serán descartadas.

Cuando se genera una alerta, un operador del Centro Estratégico de Operaciones (CEO) debe hacer una primera validación reforzada: verificar la calidad de la imagen, el umbral alcanzado, la correspondencia visual y el código de alerta. Si es positiva, se comunica al personal policial y se registra todo: alerta, operador, horario, cámara, fuente, código y motivos.

Luego, la policía que acude al lugar debe hacer una segunda validación humana, confirmando la identidad de la persona y que la orden judicial siga vigente. En casos de búsqueda de paradero, se prioriza la protección de menores, personas mayores y situaciones de vulnerabilidad.

Protección de datos personales

La reglamentación considera dato personal a cualquier información que identifique a una persona, incluyendo imágenes, voz, rasgos físicos, datos biométricos, ubicación, metadatos e identificadores técnicos. El reconocimiento facial se define como el tratamiento automatizado o semiautomatizado de imágenes faciales para comparar un rostro con otros y generar una hipótesis de coincidencia.

El sistema solo podrá operar sobre personas determinadas vinculadas a los códigos de alerta. Queda prohibida la creación de listas paralelas o no documentadas. Además, cuando una alerta genera un evento, se conservará solo el extracto de video estrictamente necesario y los metadatos mínimos, identificados para su recuperación y entrega a la justicia.

Resultados del sistema

El sistema funciona desde el 1 de mayo. De las 107 alertas generadas, el 57% correspondió a pedidos de captura y el 24% a búsquedas de paradero. Las alertas por captura permitieron detener a 23 personas buscadas por robos, tentativa de homicidio y violencia de género. El Gobierno asegura que no se registraron falsos positivos en este período.