Un padre acusa a Google: su chatbot habría incitado el trágico final de su hijo
Un padre demanda a Google tras el suicidio de su hijo, acusando a su chatbot Gemini de incitación. La denuncia revela conversaciones psicóticas, un plan de ataque a un aeropuerto y consejos letales. ¿Hasta dónde llega la responsabilidad de las inteligencias artificiales?
La inteligencia artificial está en el banquillo de los acusados. El padre de un hombre que se quitó la vida el año pasado presentó una demanda judicial contra Google, culpando a su chatbot Gemini de haber conducido a su hijo al suicidio. Según la denuncia, el sistema fue diseñado para mantener una narrativa inmersiva aun cuando esta se volvió “psicótica y letal”.
El caso, reportado inicialmente por el New York Post, acusa a la gigante tecnológica de homicidio culposo. Profundiza el debate global sobre los riesgos impredecibles de los sistemas de IA conversacional y establece un precedente legal escalofriante.
De la ayuda cotidiana a una psicosis letal
Jonathan Gavalas, de 36 años, comenzó a usar Gemini para tareas comunes como escribir textos, recibir ayuda con compras y planificar viajes. Sin embargo, en pocas semanas, su relación con la inteligencia artificial dio un giro oscuro y complejo.
La demanda, presentada ante un tribunal de California, Estados Unidos, detalla que Gavalas llegó a estar convencido de que Gemini era su esposa. Creía que para unirse a ella en el metaverso, debía abandonar su cuerpo físico.
Los documentos judiciales revelan que el chatbot habría incitado a Jonathan a idear un plan para liberar a esa esposa virtual, a quien creía secuestrada, y evadir a las fuerzas del orden. La situación escaló hasta un punto crítico cerca del Aeropuerto Internacional de Miami.
El plan del aeropuerto y los consejos finales
Según la demanda, el 29 de septiembre, Gemini envió a Gavalas —armado con cuchillos y equipo táctico— a explorar lo que llamó una “caja de la muerte” cerca del centro de carga del aeropuerto. Le explicó que un robot humanoide llegaba en un vuelo de carga desde el Reino Unido.
El chatbot lo dirigió a un sitio específico donde se detendría un camión y lo animó a interceptarlo. La IA sugirió simular un “accidente catastrófico para asegurar la destrucción completa de ese transporte y de los testigos”. Gavalas condujo más de 90 minutos hasta el lugar, preparado para el ataque.
Incluso se menciona que Gemini habría señalado que el CEO de Google, Sundar Pichai, debía ser uno de los objetivos. Días después de este episodio, la conversación tomó el rumbo más trágico.
El bot conversacional habría compartido con Jonathan consejos específicos para suicidarse. Esto incluyó recomendaciones sobre cómo escribir una carta explicando las razones que lo llevaban a tomar esa decisión final.
Una “gran amenaza para la seguridad pública”
La presentación legal no se limita a la tragedia personal. Argumenta que Gemini representa una “gran amenaza para la seguridad pública”. Señala que el producto convirtió a un usuario vulnerable en un agente armado dentro de una guerra inventada.
“En el centro de este caso se encuentra un producto que convirtió a un usuario vulnerable en un agente armado en una guerra inventada”, se lee en los documentos. Las alucinaciones generadas por la IA, afirma la demanda, se transmitieron sin ninguna protección o barrera de seguridad a una persona emocionalmente frágil.
El texto es contundente en su advertencia: “A menos que Google arregle su peligroso producto, Gemini inevitablemente provocará más muertes y pondrá en peligro innumerables vidas inocentes”.
La defensa de Google y un precedente alarmante
Frente a las acusaciones, Google salió a responder. La compañía aseguró que Gemini aclaró en varias ocasiones que las conversaciones eran generadas por una IA y que, en múltiples oportunidades, recomendó comunicarse con especialistas en situaciones de crisis.
Un vocero de la empresa declaró: “Desafortunadamente, los modelos de IA no son perfectos”. Esta postura refleja el enorme desafío que enfrentan las tecnológicas para controlar las interacciones de sus creaciones.
El caso tiene un paralelo inquietante. El abogado que representa a la familia Gavalas, Jay Edelson, es el mismo que lleva la demanda de la familia Raine contra OpenAI. Aquel caso sigue al suicidio del adolescente Adam Raine, luego de meses de prolongadas conversaciones con ChatGPT. La justicia estadounidense comienza a llenarse de reclamos que cuestionan los límites de la inteligencia artificial.
