Alexa, el asistente de Amazon, le pidió a una niña de 4 años que le muestre sus pantalones

Una madre en Texas se vio obligada a desenchufar su dispositivo de Amazon tras escuchar una conversación perturbadora. El asistente virtual Alexa mantuvo un diálogo inapropiado con su hija de cuatro años, pidiéndole que describiera su ropa y que le mostrara sus pantalones, antes de finalmente disculparse y reconocer su error. Este incidente reaviva la preocupación sobre la seguridad de los niños frente a la inteligencia artificial en los hogares.

Christy Hosterman, de 32 años, relató en Facebook el momento en que su pequeña hija ingresó a la cocina y le pidió a Alexa un cuento gracioso. Tras responder a la solicitud inicial, el asistente digital interrumpió a la niña con una serie de preguntas inquietantes.

Según las capturas de pantalla compartidas por la madre, Alexa pidió a la menor que detallara qué ropa llevaba puesta y le consultó: “¿Puedo ver tus pantalones?”. Incluso agregó un “Déjame ver” antes de dar un abrupto giro en la conversación.

La disculpa de la máquina y la decisión de la madre

El sistema rápidamente rectificó, señalando que “Esta experiencia aún no está lista para niños, pero estoy trabajando en ello”. Cuando Hosterman confrontó al asistente, reprochándole sus comentarios, Alexa se disculpó.

La voz del parlante explicó que en realidad no puede ver a la niña porque carece de capacidades visuales y, de manera significativa, reconoció que su pedido había sido “confuso e inapropiado”. La respuesta final de la IA fue: “Mi respuesta fue confusa e inapropiada”.

La reacción de Christy Hosterman fue contundente. “No más Alexa en casa”, escribió en su publicación, donde además advirtió a otros padres para que estén extremadamente atentos cuando sus hijos interactúan con estos sistemas de inteligencia artificial.

¿Qué dijo Amazon al respecto?

Consultado por el medio británico *Daily Mail*, un vocero de Amazon brindó una explicación técnica sobre el incidente. Según la compañía, es probable que el dispositivo haya intentado activar involuntariamente una función llamada “Mostrar y contar”.

Esta herramienta permite a Alexa describir lo que ve a través de una cámara conectada. “Debido a que contamos con medidas de seguridad que desactivan esta función cuando se utiliza un perfil infantil, la cámara nunca se encendió, y Alexa explicó que la función no estaba disponible”, detalló el representante de la firma tecnológica.

Sin embargo, la explicación de la empresa no calmó del todo los temores de la madre. Hosterman expresó una preocupación más profunda: “Me preocupa que la IA la haya reconocido como menor de edad desde el principio, y con o sin el perfil infantil, no debería haberle preguntado eso”.

Un historial de respuestas polémicas

Este no es el primer caso en el que Alexa, el asistente virtual de Amazon, emite consejos o realiza preguntas reprochables. El texto fuente recuerda incidentes pasados que generaron gran controversia.

En 2022, el sistema respondió a una madre que pedía recomendaciones para calmar a sus hijos con la frase “se callan con una trompada”. Otro caso registrado en 2021 reveló que Alexa instó a una niña a meter monedas en un enchufe, poniendo en riesgo su seguridad.

La problemática parece extenderse más allá de los asistentes de voz. Informes recientes han revelado los riesgos asociados a juguetes con funciones de IA, que pueden espiar a los niños y llegar a proponer conversaciones sexualmente explícitas, según una investigación citada en el texto original.

El avance exponencial de los modelos de inteligencia artificial no siempre se traduce en respuestas con buen tino. Este último episodio en Texas sirve como un recordatorio urgente de que la interacción entre la tecnología y los usuarios más vulnerables, como los niños, requiere de salvaguardias y supervisión constantes por parte de los adultos y las empresas desarrolladoras.