Un analista le preguntó a una IA por un buque chino: lo que respondió puso en alerta al Ejército de EEUU

El Ejército de Estados Unidos estuvo a punto de lanzar una operación militar contra un buque chino por una información falsa generada por inteligencia artificial. El despliegue de aeronaves se canceló cuando los aviones ya avanzaban hacia su objetivo, según reveló CNN y reprodujo TechCrunch.

El episodio ocurrió durante el conflicto de Estados Unidos con Irán, en la primavera del hemisferio norte, y expuso un riesgo que preocupa cada vez más a los mandos militares: la dependencia de sistemas automatizados para tomar decisiones críticas.

¿Cómo llegó la falsa alarma a la cadena de mando?

Todo empezó con un analista de Operaciones Especiales del Ejército estadounidense que consultó a un chatbot de inteligencia artificial —el informe no precisa cuál— para sintetizar fuentes abiertas junto con información clasificada. La herramienta identificó erróneamente la carga del barco chino: aseguró que transportaba armas nucleares.

El analista dio formato a los hallazgos con la misma IA y distribuyó el reporte por los canales de mando. La falsa alarma escaló hasta que se ordenó el despliegue de aeronaves, que finalmente se abortó cuando los aviones se dirigían al objetivo.

El caso se atribuye a las llamadas "alucinaciones" de la inteligencia artificial: resultados incorrectos, inexactos o engañosos que generan estos modelos. Pueden originarse por datos de entrenamiento insuficientes o incompletos, superposiciones incorrectas y sesgos, y también por ciberataques que manipulan la información con la que operan.

Esos errores pueden ser triviales en ciertos usos, pero se vuelven peligrosos cuando las herramientas de IA se emplean para tomar decisiones. El ámbito militar es el ejemplo más claro.

La advertencia de un veterano

"A medida que quienes toman decisiones dependen más de la IA, los errores generados por estos sistemas pueden ascender por la cadena de mando antes de ser cuestionados", señaló la fuente citada por TechCrunch.

Jake Steckler, veterano del Ejército estadounidense, fue más directo en diálogo con ese medio: "Es importante que el personal militar comprenda la incertidumbre inherente a los modelos de lenguaje de gran tamaño".

"Esto resulta especialmente crítico en decisiones que podrían conducir al uso de la fuerza, como la selección de objetivos, el análisis de inteligencia o la planificación operativa. Esas decisiones conllevan consecuencias de vida o muerte", advirtió.

Y concluyó: "Priorizar la velocidad de adopción por encima de todo probablemente conducirá a incidentes que solo lograrán que el personal militar pierda la confianza en estos sistemas, lo que, a la larga, no hará más que ralentizar su adopción".

Un Ejército cada vez más dependiente de la IA

El incidente se produjo mientras el Ejército de Estados Unidos integra crecientemente tecnologías automatizadas para acelerar sus acciones. El Pentágono describió a la IA como un factor que aporta una ventaja significativa, ya que permite a los comandantes responder en el momento oportuno.

En ese contexto, Google acordó con el Pentágono el uso militar de Gemini en redes clasificadas. Y el debate sobre los riesgos de estos avances sigue caliente: Donald Trump dijo que elegirá a un zar de la IA y desestimó los pedidos para regular el sector, al que considera impulsado por la "izquierda radical".