Inicio TECNO El extraño caso del hombre cuyo número de teléfono la IA no...

El extraño caso del hombre cuyo número de teléfono la IA no deja de recomendar

0
1

Una chica enfadada escribió en agosto por WhatsApp a Fernando, un ingeniero español de 39 años. Adjuntaba capturas de una farmacia online: “Han pasado ocho días desde que hice mi pedido, quiero que se me devuelva el dinero y poner una hoja de reclamaciones”. Fernando se lo tomó bien: “Entiendo que has intentado ponerte en contacto con una empresa de mensajería; yo soy un particular cualquiera”.

La chica se disculpó y le mandó una captura de una conversación con Gemini Flash, un modelo de IA de Google, donde salía el teléfono de Fernando como número de WhatsApp de la farmacia. “Coño, ese es mi número”, respondió Fernando, que prefiere no dar su apellido para que no se mezcle este problema con su trabajo ni le genere otros. “A ver qué hago ahora”, añadió.

Antes de poder pensar mucho, le escribió otra mujer un largo párrafo también en WhatsApp: “Me pongo en contacto con ustedes porque estoy interesada en recibir información y precios sobre el tratamiento de láser CO2 fraccionado vaginal para tratar la atrofia y la laxitud debido a la menopausia”. El mensaje iba acompañado del nombre y la foto de perfil de la mujer, a quien Fernando bloqueó enseguida. Luego, otro tipo le escribió buscando una “mountain bike rígida usada”, y adjuntaba su presupuesto y altura. Era un mensaje para una tienda de bicis.

Luego empezaron a llamarle por teléfono: alguien le hablaba de un pedido de mangos en Toledo, otra persona le preguntaba dónde debían llevar su coche para limpiarlo. Fernando ha recibido al menos ocho mensajes o llamadas entre agosto y octubre. Las consultas a la IA que habían dado su número eran, sobre todo, siempre que pudo confirmarlo, al modelo Gemini Flash. En un caso fue a ChatGPT: un hombre ruso que buscaba trabajo de cocinero y escribía a un restaurante. La IA en este caso dio el número de Fernando junto a un texto en cirílico.

“Lo que me empezó a mosquear fue que cada vez fuera más recurrente y frecuente”, explicó Fernando a este periódico. “De ahí pasé a pensar que era muy raro que alucinara siempre el mismo número y que se les había colado en los datos de entreno”, agregó.

Que un modelo de lenguaje alucine, es decir, que genere información falsa, no es nada nuevo. Lo que es más raro es la insistencia de la IA en dar el mismo número. Pero no es único. “Ha habido casos en que el asistente de WhatsApp de Meta ha dado el número de un particular en lugar del teléfono de una empresa, y otros en los que los resúmenes de IA de Google han mostrado números falsos de atención al cliente colocados en internet por estafadores”, señaló Linda Petrini, investigadora en seguridad de IA, y agregó: “El patrón es real y es de esperar que más gente corriente acabe atrapada a medida que más personas busquen empresas a través de chatbots”.

Fernando no conoce a nadie más a quien le haya pasado. Tiene este número solo desde 2021 y sospecha que podría haber sido antes de algún negocio. De ahí, intuye, que pudiera estar en los datos que entrenaron a la IA. Es la misma sospecha que tiene Petrini: “Mi mejor hipótesis es que el número aparece en webs reales de negocios, y que los chatbots lo sacan de internet cuando responden, en lugar de inventárselo de la nada”.

Pero no es la única opción que hay. José Hernández-Orallo, director de investigación del Centro Leverhulme de la Universidad de Cambridge y catedrático de la Universidad Politécnica de Valencia, cree que puede tratarse de una alucinación completa, puesto que el número de teléfono se asocia a varias tiendas. “No parece un número que estuviera asociado a nada específico en el entrenamiento”, aseguró y agregó: “Así que tiene pinta de ser una alucinación. Por alguna razón, su número es más probable que otros y le pasa más a él que a otras personas”.

Las fechas también coinciden para Gemini. Entre finales de julio y principios de agosto, Google sacó sus modelos Gemini 3.5 Flash-Lite y 3.7 Flash. “Los modelos gratuitos de Gemini son bastante flojos comparados con otros de pago, así que puede ser que sigan siendo flojos en alucinación, como se ve en distintas clasificaciones”, explicó Hernández-Orallo.

Entre las teorías que explican este error de la IA es que sea una alucinación del sistema

En Google creen lo mismo, que es una alucinación, según explicó un portavoz de la compañía a este periódico: “Los grandes modelos de lenguaje a veces pueden generar respuestas que, aunque parezcan plausibles, en realidad son incorrectas desde el punto de vista factual. Se conocen como alucinaciones”. Una búsqueda normal del número de Fernando en Google no da resultados.

No es algo menor

Puede parecer un problema fácil de solucionar o poco importante, pero tiene más peligro del que parece: “Me inquieta que se pueda dar mi número”, explicó Fernando. “Estos casos no hacen daño, pero como la gente le pregunta todo tipo de cosas a la IA, me preocupa en qué manos podía acabar mi número de teléfono, si con algo de drogas, delincuencia, suicidio, gurús”, consideró el afectado. También es un desafío para la privacidad: “Lo que me daba más miedo es que yo doy mi instagram o cualquier cosa antes que mi número de teléfono, que es sagrado. A través del número, está mi foto de perfil y con un número se pueden hacer mil cosas”.

Si se hicieran 10.000 preguntas sobre un servicio y saliera el mismo teléfono con cierta frecuencia, entonces se podría demostrar al menos que Fernando ha tenido mala suerte, dijo Hernández-Orallo. “Las distribuciones de las alucinaciones no son uniformes, igual que los humanos generamos números aleatorios mucho más frecuentes que otros”, agregó, que cree que los humanos tendríamos aquí el mismo problema que Gemini Flash: “Su número podría incluso no haber existido como teléfono. Es como si te preguntan el número de tu primera novia, no te acuerdas y no vale decir que no lo sabes. Si te lo pregunto mil veces, habrá algún número que aparecerá una docena de veces”.

Un peligro añadido sería si este tipo de problema persiste y se alarga en el tiempo. ¿Cómo solucionarlo? Más allá de contactar con los negocios implicados para advertirles “puede presentar solicitudes de retirada a Google y a OpenAI”, explicó Petrini y agregó: “Según el Reglamento General de Protección de Datos (la normativa europea que regula la privacidad y la protección de los datos personales de las personas físicas dentro de la Unión Europea), el teléfono es un dato personal, lo que da a la solicitud un peso real”.

DEJA UNA RESPUESTA

Por favor ingrese su comentario!
Por favor ingrese su nombre aquí