¿Confías ciegamente en la IA? El peligro oculto que los científicos acaban de revelar

¿Alguna vez aceptaste una respuesta de un chatbot sin dudar? Un nuevo estudio de la Universidad de Pensilvania revela que la mayoría de las personas confía en la IA incluso cuando esta se equivoca. Este fenómeno, llamado 'rendición cognitiva', podría ser el mayor peligro de la inteligencia artificial.

Los chatbots de inteligencia artificial, como ChatGPT, se han convertido en una herramienta cotidiana para millones de personas. Su capacidad para generar respuestas claras y convincentes, incluso cuando contienen errores, está generando una preocupante tendencia: la gente deja de pensar por sí misma.

¿Qué es la rendición cognitiva?

Investigadores de la Escuela Wharton de la Universidad de Pensilvania, Steven D. Shaw y Gideon Nave, han identificado un comportamiento preocupante: la 'rendición cognitiva'. Este término describe la tendencia de las personas a aceptar los razonamientos de una IA sin evaluarlos críticamente, desplazando su propio análisis.

Para estudiarlo, realizaron tres experimentos con 1.372 participantes y más de 9.500 pruebas. Los voluntarios resolvieron ejercicios de razonamiento con la ayuda de un chatbot basado en GPT-4o, uno de los modelos de ChatGPT.

Los números que asustan

Los resultados son reveladores: cuando el chatbot ofrecía una respuesta correcta, los participantes la aceptaban en el 92,7% de los casos. Pero cuando la respuesta era errónea, aún así la seguían en el 79,8% de las ocasiones.

En el primer experimento, el grupo sin ayuda acertó un 45,8%. Con ayuda del chatbot, la precisión subía al 71% con respuestas correctas, pero caía al 31,5% con respuestas incorrectas. Además, la confianza de los participantes aumentó 11,7 puntos porcentuales, incluso cuando la IA se equivocaba la mitad de las veces.

Al combinar los tres estudios, los datos son aún más alarmantes: los usuarios aceptaron el razonamiento incorrecto del chatbot en el 73,2% de los casos, y solo detectaron el error en el 19,7%.

¿Cuándo la IA reemplaza el análisis humano?

Históricamente, las personas han delegado tareas mentales en herramientas como calculadoras o GPS, un proceso conocido como 'descarga cognitiva'. En esos casos, el usuario supervisa el resultado. Pero la 'rendición cognitiva' ocurre cuando la respuesta de la IA se adopta sin un control mínimo.

Shaw y Nave introducen el concepto de un 'Sistema 3' de pensamiento: la cognición artificial. Este tercer sistema se suma a los dos modos clásicos de pensar: el intuitivo (Sistema 1) y el deliberado (Sistema 2). El peligro surge cuando la fluidez verbal de la IA se interpreta como una señal de autoridad.

El estudio no sugiere que delegar sea siempre malo. Un sistema con mejor desempeño puede aportar en análisis de datos o cálculos de riesgo. Pero cuanto mayor es la dependencia, más se ata el rendimiento humano a la calidad de la herramienta. Si la IA falla, el error se convierte en decisión humana.

El factor tiempo y los incentivos

Los experimentos también mostraron que la presión de tiempo aumenta la 'rendición cognitiva'. Con solo 30 segundos para responder, las correcciones exitosas de errores de la IA se redujeron 12 puntos porcentuales. En cambio, una recompensa económica por acierto aumentó la capacidad de rechazar sugerencias equivocadas en 19 puntos porcentuales.

Para los autores, las consecuencias visibles de una decisión impulsan un control más cuidadoso, mientras que la urgencia lo reduce.

¿Cómo protegernos?

Los investigadores proponen que las plataformas hagan visible la incertidumbre y ofrezcan explicaciones verificables. Pero la primera barrera es humana: revisar la lógica, comprobar los datos y usar fuentes independientes antes de tomar decisiones basadas en IA.

Un texto convincente puede parecer verdadero, pero su tono no garantiza que lo sea. La próxima vez que un chatbot te dé una respuesta, pregúntate: ¿estoy pensando o solo aceptando?