Bariloche mete la IA en el municipio: la regla que la ata a una firma humana

La Municipalidad de Bariloche ya tiene una norma que regula cómo se usará la inteligencia artificial en la administración pública. Se trata de la ordenanza 3612, aprobada por el Concejo Municipal a comienzos de septiembre y promulgada este viernes por el intendente Walter Cortés. La norma crea el Programa Municipal de Innovación con IA y establece un código de ética con supervisión humana obligatoria.

La iniciativa fue impulsada por las concejalas Laura Totonelli (JSRN), Samantha Echenique (Juntos por el Cambio) y la exconcejal Natalia Almonacid (JSRN). La ciudad ya contaba con una ordenanza que regulaba la implementación y el control de tecnologías digitales en la gestión pública, pero la nueva norma pone el foco específicamente en la IA y en la "oportunidad estratégica" que representa para el Estado local.

Qué dice la ordenanza

El primer artículo define el objeto del programa: "utilizar, impulsar, adoptar y desarrollar el uso de tecnologías basadas en inteligencia artificial (IA) como estrategia para la mejora continua de la gestión pública, el fortalecimiento institucional y la innovación en los servicios brindados a la ciudadanía".

La autoridad de aplicación será la subsecretaría de Tecnología y Sistemas, y la norma prevé un plazo de 90 días desde la promulgación para que se reglamente y comience a regir en la administración pública.

Entre los objetivos de la ordenanza se cuentan promover el uso "ético, responsable, transparente y seguro" de sistemas de IA en los procesos y servicios municipales, garantizando el respeto de los derechos fundamentales; impulsar la modernización del Estado con herramientas que automaticen procesos; fomentar un ecosistema local de innovación tecnológica; y promover el uso de monitoreo inteligente, análisis predictivo y avanzado de datos.

Supervisión humana y responsabilidad

El artículo séptimo establece que la IA debe ser una "herramienta de apoyo a la gestión pública y la toma de decisiones", pero siempre sujeta a "supervisión humana efectiva". La norma aclara que la responsabilidad sobre los resultados y las acciones administrativas recae de manera indelegable en los funcionarios o agentes públicos intervinientes.

Además, la supervisión humana debe contemplar mecanismos efectivos de rendición de cuentas y corrección de errores o daños.

Para garantizar un uso ético, la ordenanza fija varios principios: protección de datos personales, transparencia, explicabilidad (que las decisiones sean comprensibles para las personas afectadas y para quienes operan los sistemas), seguridad para proteger integridad, confidencialidad y disponibilidad de los datos, y supervisión humana permanente.

Posibles aplicaciones

Las concejalas que idearon la norma consideraron necesaria esta regulación en el contexto de transformación digital del Estado. Mencionaron algunos ejemplos de posibles usos: asistentes virtuales para atención ciudadana permanente; modelos predictivos para planificación del tránsito, infraestructura y servicios; herramientas de monitoreo ambiental y prevención de riesgos; automatización de procesos administrativos internos; registros públicos de sistemas algorítmicos para fortalecer la transparencia; y plataformas de simulación urbana, como gemelos digitales, para evaluar escenarios antes de adoptar decisiones de política pública.

Con la promulgación de la ordenanza 3612, Bariloche se suma a la promoción del uso responsable de la inteligencia artificial en la administración pública.