Quando un'AI dice qualcosa di sbagliato sul tuo brand

Chiedi a ChatGPT cosa fa la tua azienda e potrebbe risponderti con sicurezza assoluta, in frasi pulite, e sbagliare. Non in modo vago, non con cautela. Sbagliato, detto come un fatto, con lo stesso tono che usa quando ha ragione. Magari ti attribuisce una linea di prodotti che hai smesso di vendere anni fa. Magari ti confonde con un'azienda che ha un nome simile in un altro paese. Magari inventa un'acquisizione mai avvenuta, o mette la tua sede in una città dove non hai mai aperto un ufficio. Questa si chiama allucinazione, e se non sei mai andato a cercarne una sul tuo brand, è probabile che da qualche parte, in questi sistemi, ne esista già una.

Cos'è davvero un'allucinazione

Un modello generativo non verifica le informazioni per impostazione predefinita. Prevede il pezzo di testo più plausibile, un token alla volta, sulla base di tutto ciò su cui è stato addestrato. Nella maggior parte dei casi la previsione coincide con la realtà, perché è ciò che il testo di addestramento descriveva più spesso. Ma il modello non ha un concetto interno di "non sono sicuro" come lo ha una persona. Non confronta un fatto con una fonte prima di scriverlo, a meno che non stia recuperando informazioni dal web in tempo reale mentre risponde, come fa di norma Perplexity e come fa ChatGPT con la navigazione attiva. Senza quel passaggio, il modello produce la continuazione statisticamente più probabile di una frase, e una continuazione fluida, sicura e sbagliata appare identica, in superficie, a una corretta.

Questo è il punto scomodo. Non c'è nessun segnale visivo, nessun carattere che indica minore affidabilità, nessun asterisco. Una frase allucinata sul tuo brand si legge esattamente come una accurata, perché è stata generata dallo stesso identico processo.

Perché i brand sono un bersaglio facile

Alcuni argomenti sono per natura più esposti alle allucinazioni, e un'azienda è tra questi, per alcune ragioni precise.

• Dati di addestramento scarsi o contraddittori. Un'azienda piccola o giovane non ha molto scritto su di sé nel web pubblico. Dove il segnale è debole, il modello riempie i vuoti con ciò che è plausibile per "un'azienda di questo tipo", basandosi su aziende simili viste altrove. Il risultato si legge come una descrizione vera. Solo che non è una descrizione di te.
• Omonimie. Se un'altra azienda, in un altro paese o settore, condivide il tuo nome o qualcosa di molto simile, il modello può mescolare le due. Il problema peggiora quanto più il nome è generico.
• Informazioni vecchie senza data di scadenza. Ciò che un modello ha assorbito arriva da un taglio temporale dell'addestramento. Non sa che il prodotto con cui ti sei fatto conoscere è stato ritirato, che i prezzi sono cambiati, o che sei stato acquisito. Se nulla recupera informazioni aggiornate, il modello risponde da una fotografia già vecchia il giorno in cui ha iniziato a servire traffico.
• Riempire un vuoto con un vicino plausibile. Un modello non dice "non lo so" quanto dovrebbe. Tende a produrre la risposta che un'azienda della tua categoria avrebbe plausibilmente: una certificazione che non hai, una sede dove non operi, o una funzione che ha un tuo concorrente e tu no.

Niente di tutto questo è malevolo, e niente è davvero un bug nel senso di un difetto correggibile. È una conseguenza prevedibile del modo in cui questi sistemi generano testo quando non sono ancorati a una ricerca in tempo reale.

Un modo verificabile per controllare se sta succedendo a te

Non ti serve uno strumento per scoprire se un modello sta dicendo qualcosa di sbagliato sulla tua azienda. Ti servono quattro domande e quattro assistenti.

Chiedi a ChatGPT, Claude, Gemini e Perplexity lo stesso set di domande fattuali di base sulla tua attività: cosa fa l'azienda, chi la possiede, dove ha sede, quanto costa il suo prodotto o servizio principale. Scrivi ogni risposta parola per parola. Poi confronta ciascuna, riga per riga, con quello che è effettivamente vero.

Fallo su tutti e quattro, non su uno solo: attingono a dati di addestramento e comportamenti di recupero diversi, e non commettono gli stessi errori. Uno potrebbe sbagliare la struttura proprietaria e avere ragione sulla sede. Un altro potrebbe essere accurato su tutto tranne il prezzo, assorbito da una vecchia pagina mai rimossa. Un controllo su una sola piattaforma ti dice poco delle altre tre, e conviene ripetere la domanda più volte per assistente: un dettaglio impreciso comparso una sola volta può essere un caso isolato, mentre uno costante in più tentativi ti dice qualcosa di reale su cosa il modello ha assorbito.

Cosa puoi davvero fare al riguardo

Ecco la parte onesta, e non è comoda. Non esiste un modulo per correggere ciò che un modello ha assorbito, nessun pulsante "segnala un errore" che arrivi ai dati di addestramento e sistemi una frase. Non puoi scrivere a un laboratorio e farti correggere quello che un modello crede sulla tua sede legale, come invece potresti chiedere a una directory.

L'unica leva che esiste è indiretta: far sì che informazioni accurate sulla tua azienda esistano in modo chiaro e ripetuto sul web, così che il prossimo ciclo di addestramento, o il prossimo recupero in tempo reale, trovi la versione corretta invece di una vaga o sbagliata. Significa che il tuo sito dichiari con chiarezza cosa fai, dove hai sede e cosa è cambiato. Significa che le pagine superate vengano aggiornate o rimosse invece di restare online accanto a quelle attuali. Significa che gli stessi fatti compaiano in modo coerente sul sito, nella documentazione, nelle menzioni stampa e in ogni directory che ti elenca, invece di versioni leggermente diverse della tua storia sparse per il web.

Questo processo è lento. Non è una correzione che applichi questa settimana e vedi risolta la prossima. Un'imprecisione assorbita in un certo momento può persistere a lungo indipendentemente da cosa pubblichi in seguito, e qui non ci sono scorciatoie. Chi ti dice il contrario non ti sta dicendo la verità.

Dove si ferma la misurazione

È anche il momento di essere precisi su cosa fa e cosa non fa uno strumento come PSentry. PSentry esegue il tuo set di prompt su ChatGPT, Claude, Gemini e Perplexity e riporta cosa ciascuno ha effettivamente detto sul tuo brand, in ogni mercato e lingua in cui operi. Se una scansione porta alla luce una frase che descrive male cosa fai, inventa un prodotto, o sbaglia la struttura proprietaria, quella frase è lì, nel testo grezzo della scansione, perché è quello che il modello ha detto.

Quello che PSentry non fa è decidere, al posto tuo, che una frase è un'allucinazione. Non c'è nessun classificatore che segnala affermazioni inesatte, nessun alert che scatta quando qualcosa sembra sbagliato, nessuno strato dedicato che separi il fatto dall'invenzione. Le scansioni misurano menzioni e visibilità; giudicare se un'affermazione è vera resta un compito umano, perché richiede di conoscere i fatti reali sulla tua attività, che solo tu conosci in modo affidabile. Uno strumento può mettere le parole esatte del modello davanti a te, su ogni piattaforma e mercato che ti interessa. Non può dirti, al posto tuo, che quelle parole sono sbagliate.

Domande Frequenti

PSentry rileva le allucinazioni al posto mio?

No. PSentry porta alla luce il testo grezzo di ciò che ogni piattaforma AI dice sul tuo brand durante una scansione. Non esiste una funzione di rilevamento delle allucinazioni, nessuna segnalazione automatica, nessuno strato di classificazione. Sei sempre tu a dover leggere il testo e giudicarlo rispetto ai fatti, esattamente come faresti verificando qualsiasi altra affermazione scritta sulla tua azienda.

Un'allucinazione è la stessa cosa di un'opinione negativa sul mio brand?

No, e la distinzione conta. Una descrizione sfavorevole ma accurata non è un'allucinazione. Un'allucinazione è un'affermazione fattuale semplicemente non vera: una data di fondazione sbagliata, un prodotto ritirato descritto come attuale, una sede che non esiste. Il tono e l'accuratezza sono due cose diverse da controllare, e una scansione porta alla luce entrambe senza separarle.

Anche strumenti basati sul recupero come Perplexity possono allucinare sul mio brand?

Sì, anche se accade in modo diverso. Il recupero riduce il rischio perché il modello ancora la risposta a qualcosa che ha appena reperito invece che solo a ciò che ha assorbito durante l'addestramento, ma non lo elimina. Se la fonte che recupera è a sua volta vecchia, sbagliata, o una pagina su un'azienda diversa con un nome simile, la risposta eredita quell'errore.

Se correggo un'informazione sbagliata sul mio sito, in quanto tempo cambia la risposta del modello?

Non esiste un tempo fisso. Un modello che risponde sulla base dei dati di addestramento non rifletterà la tua modifica finché non passa un nuovo ciclo di addestramento, secondo un calendario che non è pubblico né verificabile. Un modello che recupera fonti in tempo reale può assorbire una correzione più rapidamente, ma solo una volta che la tua pagina aggiornata è abbastanza consolidata da superare in rilevanza la vecchia versione sbagliata.

Conviene chiedere anche dei miei concorrenti, non solo del mio brand?

Vale la pena farlo almeno una volta. Se un modello riporta costantemente in modo corretto i fatti base sui tuoi concorrenti più diretti mentre sbaglia i tuoi, questo indica quanto poco, o quanto confusamente, il web parla della tua azienda specifica, più che qualcosa di intrinseco all'argomento.

Un'allucinazione sul mio brand significa che non esisto come entità riconosciuta da questi modelli?

Non necessariamente. Un modello può avere un'idea chiara e coerente della tua azienda come entità distinta e comunque sbagliare fatti specifici su di essa. Il riconoscimento dell'entità e l'accuratezza fattuale sono cose collegate ma separate, entrambe da verificare.