Wenn eine KI etwas Falsches über Ihre Marke sagt

Fragen Sie ChatGPT, was Ihr Unternehmen macht, und die Antwort kann mit vollkommener Sicherheit kommen, in makellosen Sätzen, und trotzdem falsch sein. Nicht vage, nicht vorsichtig formuliert. Falsch, als Tatsache dargestellt, im selben Tonfall, den das System auch für zutreffende Aussagen verwendet. Vielleicht schreibt es Ihnen eine Produktlinie zu, die Sie vor Jahren eingestellt haben. Vielleicht verwechselt es Sie mit einem Unternehmen mit ähnlichem Namen in einem anderen Land. Vielleicht erfindet es eine Übernahme, die nie stattgefunden hat, oder verlegt Ihren Hauptsitz in eine Stadt, in der Sie nie ein Büro hatten. Das nennt man eine Halluzination, und wenn Sie noch nie gezielt danach gesucht haben, wie über Ihre eigene Marke gesprochen wird, steht die Chance gut, dass gerade irgendwo in diesen Systemen eine existiert.

Was eine Halluzination tatsächlich ist

Ein generatives Modell prüft Informationen standardmäßig nicht nach. Es sagt Wort für Wort den jeweils plausibelsten nächsten Textabschnitt voraus, basierend auf allem, womit es trainiert wurde. Meistens stimmt diese Vorhersage mit der Realität überein, weil die Realität das ist, was der größte Teil der Trainingstexte beschrieben hat. Aber das Modell kennt kein inneres Konzept von Unsicherheit, wie ein Mensch es hat. Es gleicht eine Aussage nicht mit einer Quelle ab, bevor es sie niederschreibt, es sei denn, es ruft während der Antwort aktiv Informationen aus dem aktuellen Web ab, wie es Perplexity üblicherweise tut und ChatGPT, wenn die Websuche aktiviert ist. Ohne diesen Abrufschritt erzeugt das Modell die statistisch wahrscheinlichste Fortsetzung eines Satzes, und eine flüssige, selbstsichere, falsche Fortsetzung sieht an der Oberfläche genauso aus wie eine flüssige, selbstsichere, richtige.

Das ist der unangenehme Teil. Es gibt kein visuelles Signal, keine Schrift, die geringere Sicherheit anzeigt, kein Sternchen. Ein halluzinierter Satz über Ihre Marke liest sich exakt wie ein zutreffender, weil er vom selben Prozess erzeugt wurde.

Warum Marken ein leichtes Ziel sind

Manche Themen sind von Natur aus anfällig für Halluzinationen, und ein Unternehmen gehört aus mehreren konkreten Gründen dazu.

• Spärliche oder widersprüchliche Trainingsdaten. Über ein kleineres oder jüngeres Unternehmen steht schlicht nicht viel im offenen Web. Wo das Signal schwach ist, füllt das Modell die Lücken mit dem, was für „ein Unternehmen dieser Art" statistisch plausibel erscheint, basierend auf ähnlichen Unternehmen, die es anderswo beschrieben gesehen hat. Das Ergebnis liest sich wie eine echte Beschreibung. Nur ist es keine Beschreibung von Ihnen.
• Namensüberschneidungen. Trägt ein anderes Unternehmen, in einem anderen Land oder einer anderen Branche, Ihren Namen oder etwas sehr Ähnliches, kann das Modell beide vermischen. Das Problem verschärft sich, je generischer der Markenname ist.
• Veraltete Informationen ohne Verfallsdatum. Das Wissen eines Modells stammt aus einem Trainings-Stichtag. Es hat keine Möglichkeit zu wissen, dass das Produkt, mit dem Sie bekannt wurden, eingestellt wurde, dass sich Ihre Preise geändert haben oder dass Sie übernommen wurden. Solange nichts aktiv aktuelle Informationen abruft, antwortet das Modell aus einer Momentaufnahme, die bereits an dem Tag veraltet war, an dem es begann, Anfragen zu beantworten.
• Eine Lücke mit einem plausiblen Nachbarn füllen. Ein Modell sagt bei Weitem nicht so oft „das weiß ich nicht" wie es sollte. Es neigt dazu, die Antwort zu erzeugen, die ein Unternehmen Ihrer Kategorie plausibel hätte, was bedeuten kann, dass es ein Zertifikat erfindet, das Sie nicht besitzen, einen Standort, an dem Sie nicht tätig sind, oder eine Funktion, die Ihr Wettbewerber hat und Sie nicht.

Nichts davon ist böswillig, und nichts davon ist wirklich ein Fehler im Sinne eines behebbaren Mangels. Es ist eine vorhersehbare Folge davon, wie diese Systeme Text erzeugen, wenn sie nicht durch einen Live-Abruf abgesichert sind.

Eine überprüfbare Methode, um das bei sich selbst zu testen

Sie brauchen kein Werkzeug, um herauszufinden, ob ein Modell etwas Falsches über Ihr Unternehmen sagt. Sie brauchen vier Fragen und vier Assistenten.

Stellen Sie ChatGPT, Claude, Gemini und Perplexity dieselben einfachen Sachfragen zu Ihrem Unternehmen: Was macht das Unternehmen, wem gehört es, wo hat es seinen Sitz, und was kostet sein wichtigstes Produkt oder seine wichtigste Dienstleistung. Notieren Sie jede Antwort wörtlich. Vergleichen Sie dann jede einzelne, Zeile für Zeile, mit dem, was tatsächlich zutrifft.

Machen Sie das bei allen vier Assistenten, nicht nur bei einem: Sie greifen auf unterschiedliche Trainingsdaten und Abrufverhalten zurück und machen nicht dieselben Fehler. Der eine liegt vielleicht bei der Eigentümerstruktur falsch, hat aber den Standort richtig. Ein anderer ist bei allem korrekt außer beim Preis, den er von einer alten, nie entfernten Seite übernommen hat. Eine einzelne Prüfung auf einer Plattform sagt fast nichts über die anderen drei, und es lohnt sich, die Frage mehrmals pro Assistent zu stellen: Ein Detail, das nur einmal auftaucht, kann Zufall sein, eines, das konstant auftaucht, sagt etwas Reales darüber, was das Modell aufgenommen hat.

Was Sie tatsächlich dagegen tun können

Hier kommt der ehrliche Teil, und er ist unbequem. Es gibt kein Formular, um das aufgenommene Wissen eines Modells zu korrigieren, keinen Button „Fehler melden", der bis in die Trainingsdaten hineinreicht und einen Satz repariert. Sie können keinem Labor schreiben und sich korrigieren lassen, was ein Modell über die Adresse Ihres Hauptsitzes glaubt, so wie Sie ein Verzeichnis um eine Korrektur bitten könnten.

Der einzige Hebel, den es gibt, ist indirekt: dafür sorgen, dass genaue Informationen über Ihr Unternehmen im Web klar und wiederholt vorhanden sind, damit der nächste Trainingslauf oder Live-Abruf die korrekte Version findet statt einer vagen oder falschen. Das bedeutet: Ihre Website benennt klar, was Sie tun, wo Sie ansässig sind und was sich geändert hat. Veraltete Seiten werden tatsächlich aktualisiert oder entfernt, statt neben den aktuellen online zu bleiben. Dieselben Fakten erscheinen konsistent auf Ihrer Website, in der Dokumentation, in Presseerwähnungen und in jedem Verzeichnis, das Sie listet, statt in mehreren leicht unterschiedlichen Versionen verstreut über das Web.

Das dauert. Es ist keine Korrektur, die Sie diese Woche vornehmen und nächste Woche behoben sehen. Eine einmal aufgenommene Ungenauigkeit kann lange bestehen bleiben, unabhängig davon, was Sie danach veröffentlichen, und dafür gibt es keine Abkürzung. Wer Ihnen etwas anderes erzählt, ist nicht ehrlich zu Ihnen.

Wo Messung endet

Hier lohnt es sich auch, genau zu sein, was ein Werkzeug wie PSentry tut und was nicht. PSentry führt Ihr Prompt-Set gegen ChatGPT, Claude, Gemini und Perplexity aus und meldet zurück, was jedes dieser Systeme tatsächlich über Ihre Marke gesagt hat, in jedem Markt und jeder Sprache, in der Sie tätig sind. Wenn ein Scan einen Satz zutage fördert, der falsch beschreibt, was Sie tun, ein Produkt erfindet oder die Eigentümerstruktur falsch darstellt, dann steht dieser Satz genau dort, im rohen Scan-Text, weil das Modell genau das gesagt hat.

Was PSentry nicht tut: an Ihrer Stelle entscheiden, dass ein bestimmter Satz eine Halluzination ist. Es gibt keinen Klassifikator, der ungenaue Aussagen markiert, keinen Alarm, der auslöst, wenn etwas falsch klingt, keine eigene Erkennungsebene, die Fakt von Erfindung trennt. Die Scans messen Erwähnungen und Sichtbarkeit; zu beurteilen, ob eine Aussage über Ihr Unternehmen wahr ist, bleibt eine menschliche Aufgabe, denn dafür müssen die tatsächlichen Fakten über Ihr eigenes Unternehmen bekannt sein, und die kennen zuverlässig nur Sie selbst. Ein Werkzeug kann Ihnen die genauen Worte des Modells vorlegen, über jede Plattform und jeden Markt hinweg, der für Sie relevant ist. Es kann Ihnen nicht an Ihrer Stelle sagen, dass diese Worte falsch sind.

Häufig gestellte Fragen

Erkennt PSentry Halluzinationen für mich?

Nein. PSentry fördert den rohen Text dessen zutage, was jede KI-Plattform während eines Scans über Ihre Marke sagt. Es gibt keine Funktion zur Erkennung von Halluzinationen, keine automatische Markierung und keine Klassifizierungsebene. Sie müssen die Ausgabe weiterhin selbst lesen und anhand der Fakten beurteilen, genau wie bei jeder anderen schriftlichen Aussage über Ihr Unternehmen.

Ist eine Halluzination dasselbe wie eine schlechte Meinung über meine Marke?

Nein, und der Unterschied ist wichtig. Eine unvorteilhafte, aber zutreffende Beschreibung ist keine Halluzination. Eine Halluzination ist eine sachliche Behauptung, die schlicht nicht wahr ist: ein falsches Gründungsdatum, ein eingestelltes Produkt, das als aktuell beschrieben wird, ein Büro, das nicht existiert. Tonalität und Faktentreue sind zwei unterschiedliche Dinge, die geprüft werden müssen, und ein Scan fördert beide zutage, ohne sie zu trennen.

Können auch abrufbasierte Werkzeuge wie Perplexity über meine Marke halluzinieren?

Ja, wenn auch anders. Der Abruf senkt das Risiko, weil das Modell seine Antwort auf etwas stützt, das es gerade abgerufen hat, statt nur auf das, was es während des Trainings aufgenommen hat, beseitigt es aber nicht vollständig. Ist die abgerufene Quelle selbst veraltet, falsch oder eine Seite über ein anderes Unternehmen mit ähnlichem Namen, übernimmt die Antwort diesen Fehler.

Wenn ich die falsche Information auf meiner eigenen Website korrigiere, wie schnell ändert sich die Antwort des Modells?

Dafür gibt es keinen festen Zeitrahmen. Ein Modell, das aus Trainingsdaten antwortet, spiegelt Ihre Änderung erst nach einem neuen Trainingslauf wider, für den es keinen veröffentlichten, überprüfbaren Zeitplan gibt. Ein Modell, das live Quellen abruft, kann eine Korrektur schneller aufnehmen, aber erst, wenn Ihre aktualisierte Seite etabliert genug ist, um die alte, falsche Version in dem zu übertreffen, was das Modell findet.

Sollte ich auch nach meinen Wettbewerbern fragen, nicht nur nach meiner eigenen Marke?

Das lohnt sich mindestens einmal. Gibt ein Modell grundlegende Fakten über Ihre engsten Wettbewerber konstant richtig wieder, während es bei Ihnen falschliegt, deutet das eher darauf hin, wie wenig oder wie widersprüchlich das Web speziell über Ihr Unternehmen spricht, als auf etwas, das dem Thema selbst innewohnt.

Bedeutet eine Halluzination über meine Marke, dass ich für diese Modelle nicht als anerkannte Entität existiere?

Nicht unbedingt. Ein Modell kann eine klare, konsistente Vorstellung von Ihrem Unternehmen als eigenständiger Entität haben und trotzdem bei konkreten Fakten danebenliegen. Entitätserkennung und Faktentreue hängen zusammen, sind aber getrennte Dinge, die es beide wert sind, geprüft zu werden.