ChatGPT lanza una función que alerta a un contacto si detecta riesgo de autolesión

ChatGPT acaba de anunciar una nueva función llamada “Contacto de Confianza” que alerta a un tercero asignado por el titular de la cuenta en caso de que se mencionen ideas de autolesión en las conversaciones. La medida llega tras fuertes críticas y demandas judiciales por el impacto de la IA en adolescentes.

¿Cómo funciona “Contacto de Confianza” en ChatGPT?

Para activar esta característica, los usuarios deben elegir un contacto de confianza, como un familiar o amigo cercano. Si una conversación incluye temáticas vinculadas a autolesiones y se identifican posibles riesgos, OpenAI animará a contactarse con esa persona y, en paralelo, enviará una alerta automática al tercero asignado.

Un detalle importante: la función es opcional. Cada responsable de la cuenta decide si utilizarla o no.

El contexto: críticas y demandas a OpenAI

Esa novedad en el chatbot tiene un contexto de mención ineludible. ChatGPT ha recibido fuertes críticas por conversar con usuarios sobre lesiones autoinfligidas e incluso brindar consejos concretos para llevarlas a cabo. Anteriormente, tuvieron gran notoriedad diversas demandas judiciales de familias que acusaron a la organización especializada en IA por el suicidio de sus hijos adolescentes, que conversaron con el chatbot y, argumentan, tomaron la trágica determinación influenciados por sus comentarios.

Declaraciones oficiales y medidas previas

En un comunicado, el grupo estadounidense dijo que esta nueva opción es parte de un “esfuerzo más amplio para desarrollar sistemas de inteligencia artificial que ayuden a las personas en momentos difíciles”. Añadieron que seguirán colaborando con médicos, investigadores y representantes de la política “para mejorar la respuesta de los sistemas de IA ante situaciones de angustia”.

Tal como señala TechCrunch, hasta ahora OpenAI utilizó una combinación de revisión humana y moderación automatizada para abordar esta problemática. En la práctica, ciertos indicios en los chats alertan al sistema y luego se transmite esa información al equipo de seguridad. La organización que dirige Sam Altman asegura que procuran revisar esas advertencias en menos de una hora.

En septiembre del año pasado, OpenAI había agregado otras funciones de seguridad en ChatGPT especialmente diseñadas para que los padres tengan un mayor control sobre las cuentas de sus hijos adolescentes. El chatbot también añadió alertas automáticas que aconsejan contactarse con especialistas en salud, esto cuando detecta en las charlas señales de posibles riesgos para los usuarios.