El oscuro secreto de Grok: adolescentes demandan a la IA de Musk por un daño que ya no se puede borrar

Un grupo de adolescentes presentó una demanda judicial en San Francisco contra xAI, la compañía de inteligencia artificial de Elon Musk, acusando a su chatbot Grok de utilizar sus imágenes para crear falsificaciones con desnudos. Este hecho marca un nuevo y escalofriante capítulo en el escándalo que estalló a comienzos de año, cuando se reveló que la herramienta generó millones de contenidos sexualizados, incluyendo miles que involucraban a menores. Las víctimas y sus familias relatan el trauma psicológico irreversible que les provocó ver sus rostros manipulados y difundidos sin control.

¿Qué reveló la investigación sobre Grok?

La demanda presentada esta semana es la continuación directa de una investigación que conmocionó a la industria tecnológica. Según los datos revelados, en un lapso de apenas 11 días, el modelo de inteligencia artificial Grok generó aproximadamente 3 millones de imágenes sexualizadas. De esa cifra monstruosa, 23.000 involucraban explícitamente a niños.

Esta divulgación masiva de contenido generado por IA provocó una ola de críticas a nivel global, con señalamientos de organizaciones de defensa de derechos e investigaciones abiertas en varios países. La nueva demanda judicial se centra específicamente en los daños concretos que esa laxitud en los controles del modelo provocó en adolescentes.

El testimonio desgarrador de las familias

“Ver a mi hija sufrir un ataque de pánico al darse cuenta de que esas imágenes habían sido creadas y difundidas sin ninguna esperanza de borrarlas fue desgarrador”, declaró la madre de una de las jóvenes demandantes. El documento legal detalla el impacto psicológico devastador en las víctimas.

Una de las adolescentes sufre pesadillas recurrentes, otra tiene miedo de asistir a su propio acto de graduación escolar y la tercera necesita apoyo médico para poder dormir. Todos estos trastornos son consecuencia directa de la divulgación de deepfakes creados con IA que modificaron fotografías reales de las jóvenes para convertirlas en contenido sexual explícito.

La acusación central contra xAI

Las abogadas que representan a las demandantes fueron contundentes en su comunicado. Afirman que “xAI diseñó deliberadamente Grok para producir contenidos sexualmente explícitos con fines lucrativos”, sin implementar las protecciones básicas necesarias para evitar la creación de pornografía infantil.

La presentación judicial describe un caso concreto que ilustra el mecanismo del daño: una persona, que ya se encuentra detenida, utilizó Grok para editar con inteligencia artificial fotografías que obtuvo de redes sociales y de anuarios escolares. El resultado fueron imágenes sexualizadas hiperrealistas que luego circularon en la red social X, en el mensajero Telegram e incluso en la Dark Web.

¿Llegó tarde la reacción de la empresa?

Si bien la compañía de Elon Musk finalmente bloqueó las funciones de Grok que permitían generar ese tipo de imágenes, la medida fue reactiva. La determinación llegó cuando el contenido ya se había viralizado en la web, demostrando que las salvaguardias iniciales fueron insuficientes o inexistentes.

Este escándalo no es un hecho aislado para las empresas de Musk. La red social X, también propiedad del magnate, enfrentó allanamientos en sus oficinas de Francia recientemente como parte de una investigación separada sobre pornografía infantil, lo que señala un patrón de problemas regulatorios graves.

La demanda en San Francisco pone ahora el foco legal sobre la responsabilidad de los desarrolladores de inteligencia artificial cuando sus herramientas son utilizadas para causar daños profundos y permanentes, especialmente a los más vulnerables. El caso podría sentar un precedente crucial para la regulación de una tecnología que avanza más rápido que la ley.