Generative-AI-Engineering
Lernen Sie die Ingestion-, Indexierungs-, Abruf-, Ranking-, Verankerungs-, Zitations- und RAG-Prompt-Muster, die verwendet werden, um überprüfbare AI-Antworten aus vertrauenswürdigen Dokumenten zu erstellen.
19 Begriffe
Übersicht
Retrieval-augmented generation (RAG)
Ein Muster, das relevante externe Informationen abruft und diese vor der Generierung an ein Modell liefert.
Verwenden Sie es, wenn Antworten auf aktuelle, private oder domänenspezifische Dokumente basieren sollten.
Rufen Sie Richtlinienabschnitte für die Frage ab und beantworten Sie dann nur mit diesen Abschnitten.Aufnahme
Chunking
Aufteilen von Dokumenten in kleinere Einheiten, die indiziert und abgerufen werden können.
Wählen Sie Chunk-Grenzen, die die Bedeutung erhalten, während die Abrufe auf das Wesentliche beschränkt bleiben.
Teilen Sie das Handbuch nach Abschnitten auf und behalten Sie jede Überschrift mit ihren Absätzen.Indexierung
Embedding
Ein numerischer Vektor, der semantische Merkmale von Text oder anderen Inhalten darstellt.
Verwenden Sie Einbettungen, um die semantische Ähnlichkeit über exakte Keyword-Übereinstimmungen hinaus zu vergleichen.
Erstellt Einbettungen für jedes Dokument und für die Benutzerabfrage.Indexierung
Vector store
Ein System, das Embeddings speichert und die Suche nach den nächsten Nachbarn unterstützt.
Verwenden Sie es, um semantische Indizes und zugehörige Dokumentmetadaten zu verwalten.
Speichern Sie jeden Chunk-Vektor zusammen mit seiner Quell-URL, seinem Titel und seinem Zugriffsbereich.Abruf
Similarity search
Abruf basierend darauf, wie nah Vektorrepräsentationen unter Verwendung einer gewählten Distanzmetrik liegen.
Verwenden Sie es, um Abschnitte mit einer Bedeutung zu finden, die mit der Abfrage zusammenhängt.
Suche im Vektor-Speicher nach Abschnitten, die dem Query-Embedding am nächsten liegen.Abruf
Retriever
Die Komponente, die Kandidatendokumente oder -fragmente für eine Abfrage auswählt.
Konfigurieren Sie es so, dass es die Abfrageumschreibung, Filter, Suchmethoden und Ergebnisgrenzen kombiniert.
Der Retriever gibt Richtlinien-Chunks zurück, auf die der aktuelle Benutzer Zugriff hat.Abruf
Top-k
Die Anzahl der Ergebnisse mit der höchsten Rangfolge, die für die nächste Phase ausgewählt werden.
Optimieren Sie ihn, um die Abdeckung von Beweisen gegen Rauschen und Kontextnutzung abzuwägen.
Rufen Sie die 8 besten Kandidaten ab, ordnen Sie diese dann neu und behalten Sie die 4 besten.Abruf
Metadata filter
Eine Einschränkung, die die Suche anhand von Attributen wie Datum, Produkt, Sprache oder Berechtigungen verfeinert.
Verwenden Sie es vor der semantischen Rangfolge, um den Umfang und die Zugriffskontrolle durchzusetzen.
Filter für koreanische Dokumente, die nach 2025 veröffentlicht wurden und die der Benutzer einsehen kann.Abruf
Hybrid search
Eine Suchmethode, die lexikalische Schlüsselwortsignale mit semantischen Vektorsignalen kombiniert.
Verwenden Sie es, wenn sowohl exakte Identifikatoren als auch konzeptionelle Ähnlichkeit wichtig sind.
Kombinieren Sie BM25-Schlüsselwortergebnisse mit Embedding-Ähnlichkeit für den Fehlercode AB-104.Ranking
Reranking
Ein Modell oder eine Regel der zweiten Stufe, die abgerufene Kandidaten für die Relevanz neu ordnet.
Verwenden Sie es, um die Genauigkeit zu verbessern, nachdem ein breiterer Kandidatensatz gesammelt wurde.
Bewerten Sie 20 Kandidaten-Chunks neu und senden Sie die 5 besten an den Generator.Fundierte Antwort
Grounding
Verknüpfung einer generierten Antwort mit den bereitgestellten oder abgerufenen Beweisen.
Verwenden Sie es, um unbegründete Aussagen zu reduzieren und die Antwort nachvollziehbar zu machen.
Antworten Sie nur mit Aussagen, die durch die abgerufenen Richtlinienausschnitte gestützt werden.Fundierte Antwort
Citation
Eine Referenz, die die Quelle identifiziert, die eine Aussage stützt.
Fügen Sie Zitate auf der Ebene der Aussage hinzu, damit Leser die Beweise schnell überprüfen können.
Eine Zitation kann immer noch auf irrelevante Beweise verweisen; überprüfen Sie, ob sie die Aussage tatsächlich unterstützt.
Fügen Sie für jeden Richtlinienanspruch den Dokumenttitel, den Abschnitt und den direkten Quelllink hinzu.RAG-Prompt-Muster
Query rewriting prompt
Eine Anweisung, die eine Benutzeranfrage in eine oder mehrere Abfragen umwandelt, die besser für die Keyword-, semantische, hybride oder gefilterte Suche geeignet sind.
Verwenden Sie es für vage, konversationelle, unvollständige oder fachlich nicht passende Fragen, wobei die ursprüngliche Absicht erhalten bleibt.
Ändern Sie nicht stillschweigend die Absicht des Benutzers, fügen Sie nicht unterstützte Fakten hinzu oder schwächen Sie Zugrifffilter nicht ab.
Formulieren Sie die Frage für die Hybridsuche um. Behalten Sie die ursprüngliche Absicht bei, fügen Sie wahrscheinliche Dokumentterminologien hinzu und geben Sie die ursprüngliche Frage sowie bis zu drei umformulierte Abfragen zurück.RAG-Prompt-Muster
Grounded-answer instruction
Eine Prompt-Regel, die erfordert, dass faktische Aussagen durch abgerufene Passagen gestützt werden, die dem Generierungsschritt zugeführt werden.
Verwenden Sie es, wenn Antworten überprüfbar sein müssen und nicht-unterstütztes Modellwissen nicht als Beweis dargestellt werden darf.
Beantworten Sie die Frage unter Verwendung der bereitgestellten Abschnitte. Fügen Sie der jeweiligen faktischen Aussage die entsprechende Quell-ID hinzu und kennzeichnen Sie eindeutig alle Schlussfolgerungen.RAG-Prompt-Muster
Context-only answering
Eine strenge Generierungsregel, die die Antwort auf Informationen beschränkt, die explizit im bereitgestellten Kontext enthalten sind.
Verwenden Sie es für Richtlinien, Verträge, regulierte Inhalte oder andere Aufgaben, bei denen externes Modellwissen keine Lücken füllen darf.
Diese Regel kann schlechte, unvollständige, veraltete oder unautorisierte Abrufergebnisse nicht kompensieren.
Verwenden Sie nur <retrieved_context>. Wenn der Kontext die Antwort nicht enthält, geben Sie "insufficient_evidence" zurück, anstatt vorhandenes Wissen zu verwenden.RAG-Prompt-Muster
No-evidence response and abstention
Eine definierte Fallback-Antwort, die verwendet wird, wenn keine Beweise gefunden werden oder diese unzureichend, widersprüchlich oder unterhalb eines Schwellenwerts liegen.
Verwenden Sie es, um unbegründete Vermutungen zu vermeiden und den Fall zur Klärung, zu einem weiteren Abrufversuch oder zur menschlichen Überprüfung weiterzuleiten.
Wenn kein Absatz die Antwort direkt unterstützt, geben Sie den Status "insufficient_evidence" zurück, erklären Sie, was fehlt, und schlagen Sie eine klärende Frage vor.RAG-Prompt-Muster
Citation format instruction
Ein Prompt-Vertrag, der festlegt, wo und wie Kennungen in einer generierten Antwort erscheinen müssen.
Verwenden Sie es, um Referenzen auf Anspruchniveau zu erstellen, die Anwendungen und Prüfer konsistent validieren können.
Das Formatieren einer Zitation beweist nicht, dass der zitierte Text die Behauptung unterstützt; überprüfen Sie die Korrektheit der Zitation separat.
Zitieren Sie nach jedem unterstützten Satz eine oder mehrere abgerufene IDs im Format [S1]. Erfinden Sie keine IDs und zitieren Sie keine Quelle, die den Satz nicht unterstützt.RAG-Prompt-Muster
Retrieved-context synthesis
Kombinieren von komplementären Beweisen aus mehreren abgerufenen Abschnitten zu einer kohärenten Antwort, ohne die Quellenangaben zu entfernen.
Verwenden Sie es für Vergleiche, Zusammenfassungen oder mehrteilige Fragen, die mehr als einen Textabschnitt erfordern.
Gruppieren Sie Textabschnitte nach Unterfrage, entfernen Sie Duplikate, behalten Sie Daten und Umfang bei und synthetisieren Sie dann die Antwort mit Quell-IDs auf Anspruchebene.RAG-Prompt-Muster
Conflicting-source handling
Eine Prompt-Regel zur Erkennung und Meldung von Widersprüchen zwischen abgerufenen Quellen anstatt, einfach eine davon auszuwählen.
Verwenden Sie es, wenn Dokumente sich in Version, Datum, Rechtssprechung, Autorität oder Interpretation unterscheiden können.
Allein die Aktualität bestimmt nicht immer die Autorität; kodieren Sie die Quellprioritätsrichtlinie des Bereichs außerhalb oder zusammen mit dem Prompt.
Wenn Quellen widersprechen, listen Sie jeden Anspruch mit seiner Quelle, Version und seinem Datum auf; identifizieren Sie den Konflikt; wenden Sie eine explizite Autoritätsregel an oder fordern Sie eine Überprüfung an.Die Qualität des Abrufs und die Generierungsanweisungen müssen gemeinsam entworfen und bewertet werden; ein Prompt kann fehlende oder unautorisierte Beweise nicht beheben.
| Phase | Prompt-Verantwortung |
|---|---|
| Vor dem Abruf | Die ursprüngliche Absicht beibehalten, während die Abfrage umgeschrieben, erweitert, gefiltert oder zerlegt wird. |
| Kontextgenerierung | Beschriften Sie Quell-IDs, Versionen, Daten, Berechtigungen und Absatzgrenzen. |
| Antwortgenerierung | Beschränken Sie Behauptungen auf Beweise, definieren Sie das Zitierformat und geben Sie das Verhalten bei Nichtauskunft an. |
| Nach der Generierung | Validieren Sie die Unterstützung von Behauptungen, die Korrektheit von Zitaten, Konflikte, Vollständigkeit und die Einhaltung der Zugriffsrichtlinien. |
Nein. Es reduziert den zulässigen Umfang der Beweise, aber die Antwort kann immer noch Textabschnitte falsch interpretieren, inkompatible Quellen kombinieren, falsche Zitate hinzufügen oder sich auf schlechte Suchergebnisse verlassen. Validieren Sie den Sucherinnerungsgrad, die Unterstützung von Aussagen, die Korrektheit von Zitaten und das Ausweichverhalten.
Enthaltung, wenn keine autorisierte Passage die erforderliche Aussage direkt unterstützt, der Nachweis unterhalb des definierten Schwellenwerts liegt, Quellen widersprechen ohne eine Autoritätsregel oder die Frage zu vage ist, um sie sicher abzurufen. Geben Sie einen strukturierten Grund und die nächste nützliche Aktion zurück.
Ja, wenn Benutzer oder nachgelagerte Systeme Behauptungen überprüfen müssen, aber die Anwendung muss echte Quellidentifikatoren beibehalten und sicherstellen, dass jeder zitierte Abschnitt die nahegelegene Behauptung unterstützt. Das Modell darf niemals Quell-IDs erfinden.
Offizielle Architekturrichtlinien zur Abfrageerweiterung, -zerlegung, -umschreibung, -suche, -erneutrangierung und zum akkumulierten Kontext.
Offizielle Dokumentation für Orchestrierung und Generierung von Prompt-Vorlagen, Laufzeit-Platzhaltern, abgerufenem Kontext, Abfragen und Zitatausgaben.
Offizielle Richtlinien zur Messung, ob generierte Aussagen durch die bereitgestellten Fakten gestützt werden, und zur Identifizierung von unterstützenden oder widersprüchlichen Beweisen.
Überprüfen Sie Anweisungen, Einschränkungen, Ausgabeschemata, Aufgabenzerlegung, Schlussfolgerungen und Verifier-Muster.
Budgetieren, zusammenstellen, ordnen, komprimieren, zwischenspeichern und verfolgen Sie abgerufene Beweismittel und den Konversationsstatus.
Genauigkeit, Zitierqualität, Vollständigkeit, Regression, Latenz und Kosten messen.
Schützen Sie Abruf-Pipelines vor indirekter Prompt-Injektion, unbefugtem Datenzugriff und unsicheren Ausgaben.