IA en PyMEs: las seis preguntas clave antes de dejar que una máquina decida por vos

La inteligencia artificial ya no es ciencia ficción: está adentro de las PyMEs, redactando correos, analizando datos y hasta recomendando a qué cliente priorizar. Pero, ¿qué pasa cuando una máquina empieza a tomar decisiones que afectan a personas? La respuesta no está en la tecnología, sino en quién la controla y cómo.

Un error en una tarea menor se corrige con un clic. Pero cuando la IA interviene en la selección de un candidato, la aprobación de un crédito o la evaluación de un empleado, el asunto cambia de escala. La empresa necesita saber quién supervisa el proceso y con qué herramientas reales cuenta para hacerlo.

¿Qué significa realmente tener a una persona en el circuito?

La expresión “human in the loop” suena tranquilizadora: la máquina propone, el humano revisa. Pero, ¿qué pasa si esa revisión es solo un trámite? Rebecca Crootof, Margot Kaminski y W. Nicholson Price, en su artículo “Humans in the Loop”, plantean una pregunta incómoda: ¿qué se espera concretamente que haga esa persona?

Si un empleado debe aprobar cientos de recomendaciones por día, recibe explicaciones que no entiende o no tiene autoridad para frenar el proceso, su presencia es solo cosmética. Un ejemplo típico: una PyME usa IA para ordenar currículums. El sistema presenta una lista y el de Recursos Humanos elige a los primeros. Si no conoce los criterios, no puede revisar los descartados y trabaja contrarreloj, su validación no garantiza nada.

Las seis preguntas que toda PyME debería hacerse

Antes de delegarle a la IA una tarea que pueda afectar a personas, dinero o reputación, conviene revisar estas condiciones:

1. Información: ¿La persona que controla sabe qué hizo la IA, con qué datos y cuáles son sus límites?

2. Competencia: ¿Tiene los conocimientos para detectar un error o una recomendación extraña?

3. Tiempo: ¿Dispone de tiempo real para revisar o solo acepta rápido lo que propone el sistema?

4. Autoridad: ¿Puede modificar, rechazar o detener una decisión cuando encuentra un problema?

5. Trazabilidad: ¿Se puede reconstruir después qué información se usó, qué recomendó la IA y quién decidió?

6. Reparación: Si el proceso perjudica a alguien, ¿existe una forma concreta de revisar el caso, corregirlo y reparar sus efectos?

Estas preguntas convierten la supervisión en algo observable. No es lo mismo una herramienta que corrige el tono de un correo que un sistema que selecciona personas. A mayor impacto, mayor control.

El peligro de cargar la culpa sobre el último eslabón

Madeleine Clare Elish llamó a este fenómeno “moral crumple zone” (zonas de deformación moral): el operador humano absorbe la responsabilidad por una falla aunque haya tenido poco control. En una PyME, un colaborador usa una herramienta autorizada, sigue el procedimiento y aplica una recomendación. Si algo sale mal, todos miran a esa persona. Pero, ¿qué pasa con los que eligieron la herramienta, definieron su uso o configuraron el proceso?

La responsabilidad debería acompañar a la capacidad de decisión. Por eso, hay que mirar el proceso completo: proveedores, directivos, usuarios y afectados. En una PyME los roles se concentran, pero las preguntas siguen siendo las mismas: quién define el objetivo, quién puede cambiar el sistema, quién conoce sus límites y quién puede corregir un daño.

Gobernar la IA no es tan complicado como parece

Las guías éticas de la Comisión Europea para una IA confiable incluyen la supervisión humana como requisito central. Pero su lógica se puede adaptar a una PyME: qué herramientas están autorizadas, qué información se puede cargar, qué decisiones requieren revisión, quién puede detener un proceso, qué registros se guardan y cómo se atiende un reclamo.

La adopción de IA va a seguir creciendo porque ofrece ventajas concretas. El desafío aparece cuando esas herramientas empiezan a decidir cosas que antes dependían de personas. En ese punto, una PyME necesita procesos donde la supervisión humana tenga información, competencia, tiempo, autoridad, trazabilidad y capacidad de reparación.

La pregunta final para un dueño o gerente es directa: si mañana una decisión tomada con ayuda de IA genera un problema, ¿podemos explicar qué pasó, quién podía intervenir y cómo lo corregimos? Si la respuesta es confusa, todavía hay tiempo para diseñar el proceso antes de seguir automatizando.