La IA ya redacta en la Justicia de La Pampa, pero hay 10 cosas que quedaron prohibidas

El Superior Tribunal de Justicia de La Pampa aprobó un protocolo que ordena cómo los jueces, funcionarios y abogados pueden usar la Inteligencia Artificial en su trabajo diario. La acordada, firmada el martes 13 de octubre, lleva el nombre de “Protocolo de buenas prácticas para el uso de Inteligencia Artificial (IA) en el Poder Judicial de La Pampa”.

La norma no prohíbe la tecnología: la habilita como herramienta de apoyo. Pero marca un límite infranqueable y lo hace con todas las letras: ningún sistema puede tomar decisiones por un operador judicial.

La decisión final, siempre humana

El texto es contundente en ese punto. El análisis jurídico, la interpretación de las leyes y la resolución de cada caso quedan en manos, exclusivamente, de los operadores judiciales. La IA puede colaborar en la redacción o el ordenamiento de información, pero no reemplaza el criterio de quien firma.

Con la misma lógica, el protocolo advierte sobre las “alucinaciones”: la posibilidad de que la herramienta invente información, antecedentes o textos que no existen. Por eso obliga a controlar, verificar y confirmar cada cita normativa, doctrinaria o jurisprudencial que arroje el sistema antes de usarla.

Datos sensibles y perspectiva de género

La protección de la información es otro de los ejes centrales. El tribunal exige preservar la confidencialidad de los datos personales y sensibles que tramitan en la justicia provincial. Para eso, quienes usen IA deberán aplicar mecanismos de anonimización y suprimir o reemplazar cualquier referencia que revele datos confidenciales.

La prohibición es tajante: no se puede incluir información personal al momento de darle instrucciones a herramientas externas de IA.

El protocolo también apunta a los derechos fundamentales y la igualdad de género. Los operadores tienen el deber de evaluar las respuestas del sistema para que no reproduzcan sesgos, prejuicios ni estereotipos de género, ni refuercen discriminaciones históricas que afecten a mujeres y diversidades.

Y deja asentado que usar estas herramientas no exime ni reduce las responsabilidades de funcionarios, magistrados y abogados. Al contrario: exige extremar la diligencia y mantener una supervisión humana permanente en todas las etapas, para resguardar la seguridad jurídica y el debido proceso.

Las 10 prácticas permitidas

El documento detalla qué se puede hacer con la IA en el ámbito judicial:

1. Usar las herramientas como sistema de apoyo y complemento para optimizar la labor judicial y profesional.

2. Emplear los resultados generados para complementar el análisis jurídico realizado previamente con otros métodos y fuentes.

3. Aplicar mecanismos de anonimización y seudonimización para eliminar referencias personales o confidenciales antes de ingresar documentos al sistema.

4. Redactar las instrucciones (“prompts”) con perspectiva de género, procurando lenguaje inclusivo y respeto por la diversidad.

5. Optar por modelos de IA abiertos y transparentes, con sistemas explicables que permitan auditar cómo se generó una respuesta.

6. Informar explícitamente a las partes qué herramientas y qué versiones específicas se usaron para asistir en la redacción de un documento.

7. Facilitar mecanismos para que los interesados puedan impugnar o apelar decisiones respaldadas por sistemas de IA.

8. Especificar en las instrucciones el contexto jurisdiccional, el fuero (penal, civil, comercial, laboral) y la normativa aplicable para obtener respuestas exactas.

9. Indicar a la herramienta qué rol debe asumir (por ejemplo, juez o abogado), quién es el destinatario final del texto y qué tono o formato se requiere.

10. Pedir a los sistemas conectados a internet que incluyan las referencias de sus fuentes, para luego verificarlas manualmente.

Las 10 prácticas prohibidas

Del otro lado, la lista de lo que quedó vedado para los operadores y auxiliares de la justicia:

1. Delegar en la IA la toma de decisiones finales, cuya responsabilidad recae de forma exclusiva en los operadores judiciales.

2. Excederse en la confianza técnica hacia los resultados, omitiendo la obligatoria valoración y verificación humana.

3. Incluir datos personales, información confidencial, nombres propios o documentos sensibles en las instrucciones de herramientas externas.

4. Validar u homologar respuestas que refuercen estereotipos de género, contengan prejuicios o promuevan discriminaciones sistemáticas o históricas.

5. Divulgar información sensible de los expedientes en plataformas que no cuenten con políticas y garantías de seguridad comprobadas.

6. Emplear sistemas que no garanticen la privacidad de la información y permitan la retención o reutilización de los datos ingresados para entrenar al modelo.

7. Presentar citas normativas, doctrinarias o jurisprudenciales proporcionadas por la IA sin haber revisado y confirmado previamente su existencia y exactitud.

8. Ocultar el uso de estas herramientas: todo documento jurídico, peritaje o prueba generado con IA tiene que estar claramente identificado como “asistido por IA”.

9. Eximirse, trasladar o disminuir las responsabilidades legales del cargo escudándose en errores o fallas de la IA.

10. Utilizar resultados directos de la IA sin corroborar que no contengan “alucinaciones”, es decir, información falsa, inventada, adulterada o ilegítima.