Advierten que la IA avanza sin control en las empresas: qué hay que hacer antes de que sea tarde

La inteligencia artificial se instaló en las empresas a una velocidad que pocas organizaciones logran gestionar. El uso de herramientas no autorizadas, la presión por innovar y la llegada de agentes autónomos ponen en jaque el control de los datos y las decisiones. El desafío ya no es solo implementar la tecnología, sino establecer reglas claras para que no se convierta en un problema mayor.

Luciano Moreira, Chief Transformation & Strategy Office de Cloud Legion, lo plantea sin vueltas: “Una adecuada gobernanza del creciente ecosistema alrededor de la IA es un desafío que, si no se lo considera a tiempo, puede derivar en fracasos”. Según el especialista, el problema es cultural: muchas compañías todavía creen que la gobernanza es un tema exclusivo del área de IT o del cumplimiento normativo.

Pero el alcance es mucho más amplio. Implica definir responsabilidades, establecer políticas de uso, capacitar a los empleados, supervisar los sistemas y garantizar que la adopción de IA responda a una estrategia empresarial. Sin eso, la tecnología puede terminar manejando procesos sin que nadie sepa exactamente cómo ni con qué información.

La tensión entre velocidad y seguridad

Uno de los puntos más delicados es la contradicción entre lo que pide el negocio y lo que necesitan los equipos técnicos. Moreira cita un análisis según el cual el 40% de los responsables de la toma de decisiones identifica la seguridad y el riesgo como su principal preocupación. Sin embargo, “la presión por actuar con rapidez suele primar sobre las medidas de seguridad”.

Esa carrera contra el tiempo abre la puerta a lo que se conoce como Shadow AI: empleados que usan herramientas de inteligencia artificial por su cuenta, o incluso desarrollan aplicaciones, sin que la organización lo sepa ni lo autorice.

El fenómeno es más común de lo que parece. Un informe de UpGuard citado por Moreira revela que el 81% de los empleados y el 88% de los responsables de seguridad admiten utilizar herramientas de IA no autorizadas. Y un reporte de Reco AI agrega un dato inquietante: una aplicación de Shadow AI puede permanecer activa dentro de los flujos de trabajo empresariales durante un promedio de 400 días antes de ser detectada o bloqueada por IT.

Datos confiables y trazabilidad: la otra deuda

El problema no se limita a las aplicaciones. También alcanza a los datos que alimentan los sistemas de IA. Información incompleta, desactualizada o dispersa entre diferentes áreas y repositorios puede afectar la calidad de los resultados. Por eso, antes de avanzar hacia agentes capaces de automatizar procesos, resulta necesario contar con información confiable, clasificada y con responsables claramente definidos.

La trazabilidad es otro componente central. Cuando un modelo recomienda una acción o participa en una decisión relevante, la organización necesita saber qué información utilizó y cómo llegó a ese resultado. “No alcanza con obtener una respuesta correcta: es necesario reconstruir el recorrido que permitió alcanzarla”, sostiene Moreira.

El desafío será todavía mayor en sectores como banca, salud, seguros y administración pública, donde una decisión automatizada puede tener consecuencias regulatorias, económicas o sociales.

La advertencia apunta a un escenario en el que la gobernanza dejará de ser un complemento para convertirse en una condición para la expansión de la inteligencia artificial. Moreira cita una proyección de Gartner según la cual, para 2027, el 40% de las empresas degradarán o desactivarán agentes de IA autónomos debido a fallos de gobernanza.

En otras palabras, el desafío tecnológico no será únicamente conseguir que la IA funcione, sino garantizar que las organizaciones sepan quién la utiliza, con qué datos, para qué decisiones y bajo qué controles.