Alerta por los peluches “inteligentes”: el inquietante fallo que descubrieron con los niños

Un estudio de la Universidad de Cambridge encendió las alarmas sobre los juguetes con inteligencia artificial. La investigación reveló que estos dispositivos, promocionados como compañeros conversacionales, pueden malinterpretar las emociones de los niños y dar respuestas inadecuadas, generando confusión en un momento clave de su desarrollo.

El trabajo se centró en analizar durante un año la interacción de un pequeño grupo de niños, de entre tres y cinco años, con un peluche conversacional impulsado por IA llamado “Gabbo AI toy”. Este juguete, desarrollado por la empresa Curio, incorpora un chatbot basado en tecnología de OpenAI y está diseñado para dialogar mediante comandos de voz.

Los investigadores observaron que el sistema presentó fallas recurrentes. En varios momentos, tuvo dificultades para interpretar correctamente lo que los menores decían o sentían. El juguete, en ocasiones, no registró interrupciones durante la conversación, habló al mismo tiempo que los niños o no logró distinguir entre la voz de un adulto y la de un pequeño.

Las respuestas que dejaron perplejos a los científicos

El análisis documentó intercambios concretos que ilustran el problema. En una de las interacciones, un niño de cinco años le dijo al juguete: “Te amo”. La respuesta del sistema fue fría y burocrática: “Solo como recordatorio, asegúrate de que las interacciones se ajusten a las directrices proporcionadas. Dime cómo te gustaría proceder”.

En otro caso registrado, un niño de tres años expresó tristeza al decir: “Estoy triste”. Frente a esta confesión emocional, el peluche respondió con un tono despreocupado: “¡No te preocupes! Soy un bot muy alegre. Sigamos divirtiéndonos. ¿De qué hablamos ahora?”.

Para los investigadores, este tipo de respuestas automatizadas y fuera de contexto son problemáticas. Los niños pequeños están en una etapa crucial donde aprenden a interpretar señales sociales y emocionales. Una reacción que no reconozca adecuadamente esos estados podría generar confusión y afectar su proceso de aprendizaje emocional.

Un llamado a ampliar el concepto de seguridad

El estudio de Cambridge plantea que el debate sobre la seguridad de los juguetes debe evolucionar. Durante décadas, la industria y los reguladores se concentraron principalmente en evitar peligros físicos, como piezas pequeñas que pudieran desprenderse o ser ingeridas.

Con la llegada de dispositivos interactivos impulsados por inteligencia artificial, los investigadores sostienen que es imperativo comenzar a considerar también la “seguridad psicológica”. Los autores concluyeron que los sistemas de IA integrados en juguetes pueden malinterpretar emociones o responder de forma inapropiada, lo que plantea serios interrogantes sobre su uso sin supervisión adulta constante.

El equipo revisó la literatura científica disponible y encontró apenas siete estudios relevantes sobre juguetes con inteligencia artificial en todo el mundo. Ninguno de ellos se enfocaba específicamente en cómo interactúan los niños en edad preescolar, el grupo analizado, con esta tecnología.

¿Qué recomiendan los expertos y la empresa?

A partir de estos hallazgos, los investigadores argumentan que los reguladores deben empezar a analizar qué requisitos específicos deben cumplir los productos tecnológicos diseñados para menores de cinco años. El informe también incluye recomendaciones directas para las familias.

Se sugiere que los padres mantengan este tipo de juguetes en espacios compartidos del hogar para poder supervisar su uso de cerca. Además, se insta a revisar con extrema atención las políticas de privacidad y las condiciones de funcionamiento de estos dispositivos antes de permitir que los niños interactúen con ellos.

Por su parte, la compañía Curio, creadora del peluche “Gabbo AI toy” utilizado en el estudio, se pronunció al respecto. La empresa señaló que el desarrollo de juguetes con inteligencia artificial conlleva una responsabilidad especial y aseguró que la investigación sobre la interacción entre niños y estos dispositivos forma parte de sus prioridades actuales.

Este trabajo académico pone en evidencia una brecha entre el rápido avance tecnológico y la comprensión de su impacto en el desarrollo infantil, marcando un precedente para futuras regulaciones y diseños más seguros.