La Plata: un robot humanoide entró a la Defensoría y destapó una discusión sobre la IA
¿Qué tiene que pasar para que el Estado bonaerense pueda usar inteligencia artificial sin que nadie sepa qué algoritmo decidió sobre tu vida? El proyecto que se cocina en La Plata y el robot que lo puso en escena.
Un robot humanoide de la firma Neuro Robotics se presentó en la sede de la Defensoría Adjunta del Pueblo bonaerense, en La Plata, y puso sobre la mesa un tema que el organismo viene trabajando: cómo el Estado provincial emplea sistemas algorítmicos para decidir o sugerir cuestiones que afectan la vida de la gente.
La visita no fue una exhibición tecnológica. Sirvió como excusa para visibilizar el proyecto que impulsa el Defensor Adjunto Luis María Ferella: el primer Marco Provincial de Gobernanza, Transparencia e Integridad Algorítmica del país.
Reglas claras para una herramienta que ya se usa
Ferella fue directo al plantear la postura del organismo. "Estamos a favor de la tecnología. Queremos que el Estado use IA, y que la use mucho y bien. Pero para que esa utilización sea legítima, necesitamos reglas claras", sostuvo.
En la misma línea, el funcionario explicó el espíritu de la iniciativa: "La iniciativa busca promover el uso responsable de la inteligencia artificial en el Estado, por entenderse que un marco claro de integridad y transparencia no frena la innovación, sino que la hace posible, confiable y legítima ante la ciudadanía, brindando seguridad jurídica".
Los tres ejes del proyecto
El esquema que propone la Defensoría Adjunta se apoya en tres columnas. La primera es la transparencia: la creación del Registro Provincial de Sistemas Algorítmicos (REPBA), de carácter público y auditable, donde cada organismo deberá declarar qué algoritmo utiliza, con qué datos trabaja y para qué fin.
La segunda es la responsabilidad humana. Bajo este criterio, ninguna decisión que afecte derechos podrá quedar librada por completo a un sistema automatizado: siempre tiene que existir un funcionario identificable y trazable que responda por el resultado.
La tercera pata son los derechos ciudadanos. El vecino debe poder saber que se está usando un algoritmo, entenderlo en lenguaje claro y pedir una revisión humana cuando una decisión automatizada lo perjudica.
"Si el Estado usa un algoritmo, el ciudadano tiene derecho a saberlo. Legislar sobre IA no es frenar la innovación, es todo lo contrario, es darle confianza a la ciudadanía y legitimidad a la herramienta", cerró Ferella, con el humanoide de Neuro Robotics todavía presente en la sede del organismo provincial.
