La IA empezó a recomendar su teléfono y ahora recibe pedidos insólitos: "Ese es mi número"
Un ingeniero español recibe mensajes y llamadas de clientes que lo confunden con una farmacia online, una clínica estética y hasta una tienda de bicis. Detrás de todo, Gemini y ChatGPT, que insisten en dar su número como si fuera el de un negocio.
Fernando, un ingeniero español de 39 años, jamás imaginó que su número de teléfono se convertiría en el centro de un fenómeno inexplicable. Desde agosto, comenzó a recibir mensajes y llamadas de desconocidos que lo confunden con una farmacia online, una clínica de estética, una tienda de bicicletas y hasta un restaurante. Detrás de todo, según pudo comprobar, están las respuestas erróneas de modelos de inteligencia artificial como Gemini Flash de Google y ChatGPT de OpenAI.
El primer mensaje
Una chica enojada le escribió por WhatsApp en agosto. Adjuntaba capturas de una farmacia online y le reclamaba: “Han pasado ocho días desde que hice mi pedido, quiero que se me devuelva el dinero y poner una hoja de reclamaciones”. Fernando, lejos de enojarse, le aclaró: “Entiendo que has intentado ponerte en contacto con una empresa de mensajería; yo soy un particular cualquiera”.
La joven se disculpó y le envió una captura de una conversación con Gemini Flash, el modelo de IA de Google, donde aparecía el teléfono de Fernando como el número de WhatsApp de la farmacia. “Coño, ese es mi número”, respondió él, que prefiere no revelar su apellido para evitar que el problema se mezcle con su trabajo. “A ver qué hago ahora”, agregó.
De todo, en cualquier momento
Antes de que pudiera procesar lo ocurrido, otra mujer le escribió un largo párrafo por WhatsApp: “Me pongo en contacto con ustedes porque estoy interesada en recibir información y precios sobre el tratamiento de láser CO2 fraccionado vaginal para tratar la atrofia y la laxitud debido a la menopausia”. El mensaje incluía el nombre y la foto de perfil de la remitente, a quien Fernando bloqueó de inmediato. Después, otro hombre le consultó por una “mountain bike rígida usada” y le adjuntó su presupuesto y altura, como si fuera una tienda de bicicletas.
Las llamadas telefónicas no tardaron en llegar: alguien le habló de un pedido de mangos en Toledo, otra persona le preguntó dónde debía llevar su auto para limpiarlo. Entre agosto y octubre, Fernando recibió al menos ocho mensajes o llamadas de este tipo. En casi todos los casos que pudo confirmar, la consulta a la IA había sido respondida por Gemini Flash. Solo en una ocasión fue ChatGPT: un hombre ruso que buscaba trabajo de cocinero y escribía a un restaurante recibió el número de Fernando junto a un texto en cirílico.
La sospecha de Fernando
“Lo que me empezó a mosquear fue que cada vez fuera más recurrente y frecuente”, contó Fernando a este medio. “De ahí pasé a pensar que era muy raro que alucinara siempre el mismo número y que se les había colado en los datos de entreno”, añadió.
Que un modelo de lenguaje alucine —es decir, que genere información falsa— no es novedad. Lo llamativo es la insistencia de la IA en repetir el mismo número. “Ha habido casos en que el asistente de WhatsApp de Meta ha dado el número de un particular en lugar del teléfono de una empresa, y otros en los que los resúmenes de IA de Google han mostrado números falsos de atención al cliente colocados en internet por estafadores”, señaló Linda Petrini, investigadora en seguridad de IA. “El patrón es real y es de esperar que más gente corriente acabe atrapada a medida que más personas busquen empresas a través de chatbots”, advirtió.
Fernando no conoce a nadie más que haya vivido algo similar. Tiene ese número desde 2021 y sospecha que antes pudo pertenecer a algún negocio. De ahí intuye que pudo quedar registrado en los datos con los que se entrenó la IA. Petrini coincide: “Mi mejor hipótesis es que el número aparece en webs reales de negocios, y que los chatbots lo sacan de internet cuando responden, en lugar de inventárselo de la nada”.
Alucinación o mala suerte
Pero no es la única explicación posible. José Hernández-Orallo, director de investigación del Centro Leverhulme de la Universidad de Cambridge y catedrático de la Universidad Politécnica de Valencia, cree que puede tratarse de una alucinación completa, ya que el número se asocia a varias tiendas. “No parece un número que estuviera asociado a nada específico en el entrenamiento”, aseguró. “Así que tiene pinta de ser una alucinación. Por alguna razón, su número es más probable que otros y le pasa más a él que a otras personas”, agregó.
Las fechas también coinciden para Gemini. Entre finales de julio y principios de agosto, Google lanzó sus modelos Gemini 3.5 Flash-Lite y 3.7 Flash. “Los modelos gratuitos de Gemini son bastante flojos comparados con otros de pago, así que puede ser que sigan siendo flojos en alucinación, como se ve en distintas clasificaciones”, explicó Hernández-Orallo.
En Google creen lo mismo, que es una alucinación. Un portavoz de la compañía explicó a este periódico: “Los grandes modelos de lenguaje a veces pueden generar respuestas que, aunque parezcan plausibles, en realidad son incorrectas desde el punto de vista factual. Se conocen como alucinaciones”. Una búsqueda normal del número de Fernando en Google no arroja resultados.
Un problema con más riesgo del que parece
Puede parecer un inconveniente menor, pero tiene implicancias más serias. “Me inquieta que se pueda dar mi número”, explicó Fernando. “Estos casos no hacen daño, pero como la gente le pregunta todo tipo de cosas a la IA, me preocupa en qué manos podía acabar mi número de teléfono, si con algo de drogas, delincuencia, suicidio, gurús”, consideró. También es un desafío para la privacidad: “Lo que me daba más miedo es que yo doy mi Instagram o cualquier cosa antes que mi número de teléfono, que es sagrado. A través del número, está mi foto de perfil y con un número se pueden hacer mil cosas”.
Si se hicieran 10.000 preguntas sobre un servicio y saliera el mismo teléfono con cierta frecuencia, se podría demostrar al menos que Fernando ha tenido mala suerte, dijo Hernández-Orallo. “Las distribuciones de las alucinaciones no son uniformes, igual que los humanos generamos números aleatorios mucho más frecuentes que otros”, agregó. Cree que los humanos tendríamos el mismo problema que Gemini Flash: “Su número podría incluso no haber existido como teléfono. Es como si te preguntan el número de tu primera novia, no te acuerdas y no vale decir que no lo sabes. Si te lo pregunto mil veces, habrá algún número que aparecerá una docena de veces”.
Qué se puede hacer
Un peligro añadido sería si este tipo de problema persiste en el tiempo. ¿Cómo solucionarlo? Más allá de contactar a los negocios implicados para advertirles, “puede presentar solicitudes de retirada a Google y a OpenAI”, explicó Petrini. “Según el Reglamento General de Protección de Datos (la normativa europea que regula la privacidad y la protección de los datos personales de las personas físicas dentro de la Unión Europea), el teléfono es un dato personal, lo que da a la solicitud un peso real”, concluyó.