Cuando una IA dice algo falso sobre tu marca

Pregúntale a ChatGPT qué hace tu empresa y puede que te responda con una seguridad absoluta, en frases impecables, y se equivoque. No de forma vaga, no con matices. Equivocado, presentado como un hecho, con el mismo tono que usa cuando acierta. Puede que te atribuya una línea de productos que dejaste de vender hace años. Puede que te confunda con una empresa de nombre parecido en otro país. Puede que invente una adquisición que nunca ocurrió, o que sitúe tu sede en una ciudad donde nunca has tenido oficina. Esto se llama alucinación, y si nunca has ido a buscar una sobre tu propia marca, es bastante probable que ya exista alguna en algún rincón de estos sistemas ahora mismo.

Qué es realmente una alucinación

Un modelo generativo no verifica nada por defecto. Predice el fragmento de texto más plausible, un token a la vez, a partir de todo aquello con lo que fue entrenado. La mayoría de las veces esa predicción coincide con la realidad, porque la realidad es lo que describía la mayor parte del texto de entrenamiento. Pero el modelo no tiene una noción interna de duda, como sí la tiene una persona. No contrasta un dato con una fuente antes de escribirlo, salvo que esté buscando activamente información en la web en tiempo real mientras responde, como suele hacer Perplexity, o ChatGPT cuando la navegación está activada. Sin ese paso de búsqueda, el modelo produce la continuación estadísticamente más probable de una frase, y una continuación fluida, segura y equivocada resulta, en apariencia, idéntica a una fluida, segura y correcta.

Esa es la parte incómoda. No hay ninguna señal visual, ninguna tipografía que indique menor certeza, ningún asterisco. Una frase alucinada sobre tu marca se lee exactamente igual que una precisa, porque fue generada por el mismo proceso.

Por qué las marcas son un blanco fácil

Algunos temas son propensos a las alucinaciones por naturaleza, y una empresa es uno de ellos, por varias razones concretas.

• Datos de entrenamiento escasos o contradictorios. Una empresa más pequeña o más reciente simplemente no tiene mucho escrito sobre sí misma en la web abierta. Donde la señal es débil, el modelo rellena los huecos con lo que resulta estadísticamente plausible para «una empresa de este tipo», basándose en negocios similares que ha visto descritos en otros lugares. El resultado se lee como una descripción real. Solo que no es una descripción de ti.
• Coincidencias de nombre. Si otra empresa, en otro país o sector, comparte tu nombre o algo muy parecido, el modelo puede mezclar ambas. El problema empeora cuanto más genérico es el nombre de la marca.
• Información desactualizada sin fecha de caducidad. Lo que un modelo ha absorbido proviene de una fecha límite de entrenamiento. No tiene forma de saber que el producto con el que te diste a conocer fue descontinuado, que tus precios cambiaron, o que fuiste adquirido por otra empresa. A menos que algo esté recuperando información actual, el modelo responde desde una fotografía que ya estaba desactualizada el día en que empezó a atender consultas.
• Rellenar un vacío con un vecino plausible. Un modelo no dice «no lo sé» tan a menudo como debería. Tiende a producir la respuesta que tendría, con plausibilidad, una empresa de tu categoría, lo que puede significar inventar una certificación que no tienes, una sede donde no operas, o una función que sí tiene tu competidor y tú no.

Nada de esto es malintencionado, y nada es realmente un fallo en el sentido de un defecto corregible. Es una consecuencia previsible de cómo estos sistemas generan texto cuando no están anclados a una búsqueda en tiempo real.

Una forma verificable de comprobar si te está pasando a ti

No necesitas ninguna herramienta para descubrir si un modelo está diciendo algo falso sobre tu empresa. Necesitas cuatro preguntas y cuatro asistentes.

Pregúntale a ChatGPT, Claude, Gemini y Perplexity el mismo conjunto de preguntas factuales simples sobre tu negocio: qué hace la empresa, quién es su propietario, dónde tiene su sede, y cuánto cuesta su producto o servicio principal. Anota cada respuesta tal cual. Después compara cada una, línea por línea, con lo que es realmente cierto.

Hazlo en los cuatro asistentes y no en uno solo, porque se apoyan en datos de entrenamiento distintos y en comportamientos de búsqueda distintos, y no cometen los mismos errores. Uno puede equivocarse con tu estructura de propiedad y acertar con tu ubicación. Otro puede ser preciso en todo salvo en el precio, absorbido de una página antigua que nunca se retiró. Una sola comprobación en una sola plataforma te dice casi nada sobre las otras tres, y conviene repetir la pregunta más de una vez por asistente: un detalle inexacto que aparece una sola vez puede ser casualidad, mientras que uno que aparece de forma constante en varios intentos te está diciendo algo real sobre lo que el modelo absorbió.

Qué puedes hacer realmente al respecto

Aquí viene la parte honesta, y no es cómoda. No existe ningún formulario para corregir lo que un modelo ha absorbido, ningún botón de «reportar un error» que llegue hasta los datos de entrenamiento y arregle una frase. No puedes escribirle a un laboratorio y pedir que corrijan lo que un modelo cree sobre la dirección de tu sede, como sí podrías pedirle una corrección a un directorio.

La única palanca que existe es indirecta: lograr que exista información precisa y concreta sobre tu empresa, de forma clara y repetida, en toda la web, para que el próximo ciclo de entrenamiento, o la próxima búsqueda en tiempo real, encuentre la versión correcta en lugar de una vaga o falsa. Eso significa que tu propio sitio declare con claridad qué haces, dónde tienes tu sede y qué ha cambiado. Significa que las páginas desactualizadas se actualicen o se retiren de verdad, en lugar de dejarlas activas junto a las actuales. Significa que los mismos datos aparezcan de forma coherente en tu sitio, en tu documentación, en menciones de prensa y en cualquier directorio que te incluya, en lugar de varias versiones ligeramente distintas de tu propia historia dispersas por la web.

Este proceso es lento. No es una corrección que aplicas esta semana y ves resuelta la siguiente. Una imprecisión absorbida en un momento dado puede persistir mucho tiempo, sin importar lo que publiques después, y aquí no hay atajos. Quien te diga lo contrario no te está contando la verdad.

Dónde se detiene la medición

Este es también el momento de ser precisos sobre qué hace, y qué no hace, una herramienta como PSentry. PSentry ejecuta tu conjunto de prompts en ChatGPT, Claude, Gemini y Perplexity, y te reporta lo que cada uno dijo realmente sobre tu marca, en cada mercado y cada idioma en el que operas. Si un escaneo saca a la luz una frase que describe mal lo que haces, inventa un producto, o se equivoca con tu estructura de propiedad, esa frase está ahí, en el texto bruto del escaneo, porque eso fue lo que dijo el modelo.

Lo que PSentry no hace es decidir, en tu lugar, que una frase determinada es una alucinación. No hay ningún clasificador que marque afirmaciones inexactas, ninguna alerta que se active cuando algo parece incorrecto, ninguna capa dedicada que separe el hecho de la invención. Los escaneos miden menciones y visibilidad; juzgar si una afirmación sobre tu empresa es cierta sigue siendo una tarea humana, porque exige conocer los hechos reales sobre tu propio negocio, y esos solo los conoces tú con fiabilidad. Una herramienta puede poner las palabras exactas del modelo delante de ti, en cada plataforma y cada mercado que te importe. No puede decirte, en tu lugar, que esas palabras están equivocadas.

Preguntas Frecuentes

¿PSentry detecta alucinaciones por mí?

No. PSentry saca a la luz el texto bruto de lo que cada plataforma de IA dice sobre tu marca durante un escaneo. No existe ninguna función de detección de alucinaciones, ningún marcado automático ni ninguna capa de clasificación. Siempre eres tú quien tiene que leer el resultado y juzgarlo frente a los hechos, igual que harías al verificar cualquier otra afirmación escrita sobre tu empresa.

¿Una alucinación es lo mismo que una mala opinión sobre mi marca?

No, y la distinción importa. Una descripción desfavorable pero exacta no es una alucinación. Una alucinación es una afirmación factual que simplemente no es cierta: una fecha de fundación errónea, un producto descontinuado descrito como vigente, una oficina que no existe. El tono y la exactitud son dos cosas distintas que hay que revisar, y un escaneo saca a la luz ambas sin separarlas.

¿Las herramientas basadas en búsqueda en tiempo real, como Perplexity, también pueden alucinar sobre mi marca?

Sí, aunque ocurre de otra forma. La búsqueda en tiempo real reduce el riesgo porque el modelo ancla su respuesta en algo que acaba de recuperar, en lugar de basarse solo en lo que absorbió durante el entrenamiento, pero no lo elimina del todo. Si la fuente que recupera está desactualizada, es errónea, o es una página sobre una empresa distinta con un nombre parecido, la respuesta hereda ese error.

Si corrijo la información errónea en mi propio sitio, ¿cuánto tarda en cambiar la respuesta del modelo?

No hay un plazo fijo. Un modelo que responde a partir de datos de entrenamiento no reflejará tu cambio hasta que pase por un nuevo ciclo de entrenamiento, sin un calendario público que puedas consultar. Un modelo que recupera fuentes en tiempo real puede incorporar una corrección más rápido, pero solo una vez que tu página actualizada esté lo bastante consolidada como para superar en relevancia a la versión antigua y errónea.

¿Debería preguntar también por mis competidores, no solo por mi propia marca?

Vale la pena hacerlo al menos una vez. Si un modelo acierta de forma constante los datos básicos de tus competidores más cercanos mientras se equivoca con los tuyos, eso apunta a lo poco, o lo confusamente, que la web habla de tu empresa en concreto, más que a algo inherente al tema.

¿Una alucinación sobre mi marca significa que no existo como entidad reconocida para estos modelos?

No necesariamente. Un modelo puede tener una noción clara y coherente de tu empresa como entidad distinta y aun así equivocarse en datos concretos sobre ella. El reconocimiento de entidad y la exactitud factual están relacionados, pero son cosas separadas que también conviene revisar.