Was RAG wirklich ist, für den Maschinenbau

Irgendjemand in Ihrer Branche sagt seit Kurzem RAG in Besprechungen. Die Abkürzung steht für abrufgestützte Generierung, und dahinter steckt ein Mechanismus, den zu verstehen sich lohnt, wenn Sie technische Produkte verkaufen: Er entscheidet, ob ein KI-Assistent die Maschine beschreibt, die Sie tatsächlich bauen, oder einen plausiblen Durchschnitt aus allem, was er über ähnliche Maschinen gelesen hat.

Zwei Arten von Gedächtnis

Ein Sprachmodell hat so etwas wie zwei Gedächtnisse, und sie verhalten sich völlig unterschiedlich.

Das erste ist das, was während des Trainings aufgenommen wurde. Riesig, eingefroren und ohne Datum. Das Modell speichert Ihre Produktseite nicht als Seite. Es speichert statistische Regelmäßigkeiten darüber, wie Wörter zusammengehen, und dazu zählen die Form des Fachvokabulars Ihrer Branche und, sofern genug über Ihr Unternehmen geschrieben wurde, der Firmenname in Gesellschaft bestimmter Produkte. Dieses Gedächtnis hat einen Stichtag und lässt sich von außen nicht aktualisieren. Es lässt sich auch nicht einsehen: Niemand kann auf eine Stelle zeigen und sagen, dort liege Ihr Toleranzbereich.

Das zweite Gedächtnis ist das, was das System im Moment der Antwort holt. Das ist der Abruf. Bevor ein Wort geschrieben wird, sammelt die Maschinerie eine Handvoll Dokumente ein, die zur Frage zu passen scheinen, fügt sie in den Arbeitskontext des Modells ein und verlangt eine Antwort aus diesen Unterlagen. Das ähnelt eher dem Überreichen eines Ordners mit Ausdrucken samt Bitte um eine Zusammenfassung als der Frage, woran sich jemand erinnert.

Abrufgestützte Generierung ist schlicht die Verbindung beider: das aufgenommene Gedächtnis des Modells plus ein für genau diese Frage zusammengestellter Ordner. Ob Ihre neue Produktlinie in einer Antwort auftaucht, hängt fast immer an der zweiten Hälfte, nicht an der ersten.

Was abgerufen wird, und wie

Hier kommt der Teil, der Maschinenbauer überrascht. Der Abruf holt nicht Ihre Website. Er holt Passagen.

Dokumente werden in Blöcke zerlegt: jeweils einige Absätze, manchmal weniger. Diese Blöcke werden nach Bedeutung indexiert und nicht nach exaktem Stichwort, weshalb eine Frage nach Pumpen für aggressive Medien eine Passage hochholen kann, in der das Wort aggressiv nie vorkommt. Trifft eine Frage ein, zieht das System die inhaltlich nächstliegenden Blöcke heran, und nur diese gelangen zum Modell. Alles Übrige der Seite, einschließlich des Satzes drei Bildschirmhöhen weiter oben, der der Passage ihren Zusammenhang gab, bleibt zurück.

Die praktische Folge ist unangenehm, wenn Ihre Dokumentation aussieht wie die meisten technischen Unterlagen. Stellen Sie sich eine Produktseite vor, auf der die Typenbezeichnung in einer Überschrift steht, der Werkstoff in einer Tabelle zwei Abschnitte tiefer auftaucht und die Betriebstemperatur nur in der Bildunterschrift einer Zeichnung. Jede dieser Angaben mag für sich abrufbar sein. Keine reist zusammen mit den anderen. Ein Block mit einem Temperaturbereich und ohne Produktnamen nützt einem System, das beantworten soll, welcher Ihrer Typen diese Temperatur aushält, so gut wie nichts.

Warum der Assistent ein ausgelaufenes Produkt beschreibt

Findet der Abruf nichts Brauchbares, hört das Modell nicht auf. Es antwortet aus dem aufgenommenen Gedächtnis, und daher stammen die plausibel klingenden falschen Antworten: eine ausgelaufene Typenbezeichnung, eine Angabe aus der Vorgängergeneration, eine Zertifizierung, die der Wettbewerber hat und Ihr Haus nicht. Der Text kommt mit genau derselben Selbstsicherheit heraus wie eine abgerufene Tatsache. Optisch unterscheidet sich eine Antwort aus Ihrem aktuellen Datenblatt in nichts von einer aus statistischem Bodensatz.

Deshalb führt die Korrektur einer falschen Aussage fast nie über eine Diskussion mit dem Modell. Enthält der abgerufene Ordner eine klare, aktuelle, für sich stehende Aussage, hat das Modell einen starken Grund, sie zu verwenden. Kommt der Ordner leer zurück, fällt es auf das Gedächtnis zurück, und im Gedächtnis wohnt die alte Fassung Ihres Unternehmens.

Was eine Passage abrufbar macht

Nichts davon verlangt neue Software, und nichts ist exotisch.

Absätze, die für sich stehen. Eine Passage muss auch dann verständlich sein, wenn nur sie gelesen wird. Wiederholen Sie die Typenbezeichnung innerhalb des Absatzes, der die Angabe nennt, auch wenn das für ein menschliches Auge mit sichtbarer Überschrift redundant wirkt.
Angaben als Sätze, nicht nur als Tabellenzellen oder Zeichnungsbeschriftungen. Tabellen sind abrufbar, sofern sie echter Text sind, aber ein schlichter Satz mit Werkstoff, Bereich und Norm übersteht die Zerlegung deutlich zuverlässiger.
Text, der überhaupt erreichbar ist. Eine Angabe, die nur in einer Datei zum Herunterladen oder hinter einem Kundenkonto existiert, wird vom Abruf in der Regel nicht erreicht. Dasselbe gilt für Inhalte, die erst nach dem Ausführen eines Skripts im Browser erscheinen.
Das Vokabular des Einkaufs, nicht nur das interne. Der Abruf arbeitet über Bedeutung, geht aber von den Wörtern auf der Seite aus. Wenn die Branche Schlammpumpe sagt und der Katalog nur die interne Baureihenbezeichnung führt, liegen beide weiter auseinander, als es scheint.
Eine Seite pro Sache. Eine einzige Seite für eine ganze Produktfamilie liefert dem Abruf einen Haufen ähnlicher Blöcke ohne Unterscheidungsmerkmal. Getrennte Seiten ergeben getrennte, sauberere Passagen.

Ein Test für heute

Wählen Sie eine wirklich aktuelle und hinreichend konkrete Angabe: einen Betriebsbereich, einen Werkstoff, eine Verträglichkeit. Stellen Sie einem Assistenten, der im Web sucht, eine Frage, deren Antwort diese Angabe erfordert, ohne Ihr Unternehmen zu nennen. Stellen Sie dieselbe Frage danach mit Firmennamen. Fragen Sie zuletzt nach der Quelle.

Ist die Antwort richtig und die Quelle eine Ihrer Seiten, hat der Abruf Sie erreicht. Ist die Antwort richtig, aber die Quelle ein Händler oder ein Marktplatz, hat der Abruf Ihre Angabe über die Seite eines Dritten erreicht: gut zu wissen, denn zitiert werden die anderen, und deren Beschreibung Ihres Produkts ist die im Umlauf befindliche. Ist die Antwort falsch und wird keine Quelle genannt, sehen Sie aufgenommenes Gedächtnis, dem nichts entgegensteht.

Was das nicht leistet

Abrufbare Seiten sind eine Voraussetzung, kein Hebel. Niemand, wir eingeschlossen, kann zusichern, dass ein Assistent ein Unternehmen zitiert, und kein Werkzeuganbieter hat privilegierten Einblick darin, wie diese Systeme das Abgerufene gewichten. Ehrlich möglich ist Messung: PSentry prüft, ob eine Marke in den Antworten von ChatGPT, Claude, Gemini und Perplexity vorkommt, in jeder Sprache und jedem Markt, und auf welche Quellen sich diese Antworten stützen. Es misst und berichtet. Es bearbeitet keine Seiten, es rührt an keinem Abrufindex, und es verspricht nicht, dass eine Änderung auf Ihrer Website eine Änderung in einer Antwort bewirkt.

Den Mechanismus zu verstehen lohnt den Nachmittag dennoch. Er verwandelt eine diffuse Sorge über KI in eine konkrete Liste von Punkten in der eigenen Dokumentation, die sich prüfen, beheben und erneut prüfen lassen.

Häufig gestellte Fragen

Ist der Abruf nur eine Suchmaschine mit Zwischenschritten?

Er nutzt Suche, verfolgt aber ein anderes Ziel. Eine Suchmaschine liefert Links, die ein Mensch öffnet. Der Abruf liefert Passagen, aus denen ein Modell schreibt, weshalb die Qualität des einzelnen Absatzes mehr zählt als die der ganzen Seite.

Werden die Inhalte unserer Website zum Training verwendet?

Das hängt vom Anbieter ab und davon, was die Website zulässt, und es ist eine vom Abruf getrennte Frage. Training ist langsam, undurchsichtig und außerhalb Ihres Einflusses. Der Abruf geschieht im Moment der Antwort und hängt an prüfbaren Dingen: erreichbare Seite, echter Text, für sich stehende Passage.

Brauchen wir eine Vektordatenbank oder ein eigenes RAG-System?

Dafür nicht. Ein eigenes Abrufsystem beantwortet Fragen zu internen Dokumenten. Von öffentlichen Assistenten zitiert zu werden hängt am Abruf, der ohnehin im offenen Web stattfindet, und dort ist Ihr einziger Einsatz das, was Sie veröffentlichen.

Macht eine llms.txt unsere Inhalte abrufbar?

Sie zu veröffentlichen kostet wenig und kann Systemen helfen, die sie lesen wollen, aber behandeln Sie das als Hinweis, nicht als Mechanismus. Was der Abruf heute verarbeitet, ist eine saubere HTML-Seite mit echtem Text, und keine Zusatzdatei gleicht eine Angabe aus, die nur in einem eingescannten Dokument steht.

Warum zitiert der Assistent unseren Händler statt unserer Website?

Meist weil der Händler die Angabe als Fließtext auf einer erreichbaren Seite nennt, während der Hersteller sie in einer Datei zum Herunterladen hält. Der Abruf nimmt die Passage, die er erreicht, und die Quellenangabe folgt der Passage.