概覽
檢索增強生成 (RAG)
Retrieval-augmented generation (RAG)
意思
一個模式，用於檢索相關的外部資訊，並在生成之前將其提供給模型。
使用時機
在答案應基於當前、私有或特定領域的文件時使用。
應用範例
檢索與問題相關的策略段落，然後僅使用這些段落進行回答。生成式 AI 工程
RAG 與文件搜尋術語
學習用於從可信賴的文件構建可驗證的 AI 回應的輸入、索引、檢索、排名、錨定、引用和 RAG（檢索增強生成）提示模式。
19 個術語
導入
分塊
Chunking
意思
將文件分割成較小的單元，以便進行索引和檢索。
使用時機
選擇能夠在保持檢索重點的同時，保留意義的分塊邊界。
應用範例
按照章節分割手冊，並保留每個標題及其段落。索引
嵌入
Embedding
意思
一個表示文字或其他內容語義特徵的數值向量。
使用時機
使用嵌入 (embeddings) 來比較語義相似性，而不僅僅是完全匹配的關鍵字。
應用範例
為每個文件片段和使用者的查詢建立嵌入向量。索引
向量儲存
Vector store
意思
一個存儲嵌入向量並支持最近鄰檢索的系統。
使用時機
運用它來管理語義索引和相關的文件元數據。
應用範例
儲存每個分塊向量及其來源 URL、標題和訪問範圍。檢索
相似性搜索
Similarity search
意思
基於向量表示在所選距離度量下有多接近進行檢索。
使用時機
用於找到與查詢相關意義的段落。
應用範例
在向量資料庫中搜尋與查詢嵌入最接近的段落。檢索
檢索器
Retriever
意思
选择查询的候选文档或片段的组件。
使用時機
將其配置為結合查詢重寫、篩選器、搜尋方法和結果限制。
應用範例
檢索器返回策略將允許當前使用者訪問的策略塊分割。檢索
Top-k
Top-k
意思
为下一阶段选择的最高排名检索结果的数量。
使用時機
調整它，以平衡證據覆蓋範圍與雜訊和上下文使用。
應用範例
檢索前 k 個 8 個候選對象，然後重新排序並保留最佳的 4 個。檢索
元資料篩選器
Metadata filter
意思
一個約束條件，通過日期、產品、語言或權限等屬性來縮小檢索範圍。
使用時機
在語義排名之前，使用它來強制範圍和訪問控制。
應用範例
篩選 2025 年之後發布的韓文文件，供使用者瀏覽。檢索
混合搜尋
Hybrid search
意思
一種搜尋方法，它將詞法關鍵字信號與語義向量信號結合起來。
使用時機
在精確的識別碼和概念相似性都重要時使用。
應用範例
將 BM25 關鍵字結果與嵌入相似度結合，用於錯誤代碼 AB-104。排名。
重新排序
Reranking
意思
一個用於重新排序檢索候選項以提高相關性的二級模型或規則。
使用時機
用於在收集更廣泛的候選集後提高精度。
應用範例
重新排序 20 個候選片段，並將最佳的 5 個片段發送給生成器。依據事實的回應
依據事實
Grounding
意思
將生成的響應與提供的或檢索到的證據聯繫起來。
使用時機
運用它來減少未經證實的聲明，並使答案可以追溯。
應用範例
僅回答由檢索到的策略摘錄支持的聲明。依據事實的回應
引用
Citation
意思
一個參考，用於識別支持某聲明的來源。
使用時機
在聲明級別添加引用，以便讀者可以快速驗證證據。
注意
引用仍然可以指向無關的證據；請驗證它是否真正支持該聲明。
應用範例
為每個政策聲明，包含文檔標題、部分和直接來源鏈接。RAG 提示模式。
查詢重寫提示。
Query rewriting prompt
意思
一個將用戶請求轉換為更適合關鍵字、語義、混合或過濾檢索的一個或多個查詢的指令。
使用時機
適用於模糊、對話、未明確或領域不匹配的問題，同時保留原始意圖。
注意
不要默默地更改用戶的意圖、添加未經支援的事實或削弱訪問過濾器。
應用範例
為了進行混合搜尋，重新編寫問題。 保留原始意圖，添加可能的文檔術語，並返回原始問題以及最多三個重新編寫的問題。RAG 提示模式。
依據事實的指令
Grounded-answer instruction
意思
一個提示規則，要求事實性聲明必須由提供給生成步驟的檢索段落支持。
使用時機
在答案必須可追溯，且不應將未支援的模型知識作為證據呈現時使用。
應用範例
使用提供的段落回答問題。將支持性來源 ID 附加到每個事實性聲明，並清楚標記任何推論。RAG 提示模式。
僅根據上下文進行回答
Context-only answering
意思
一個嚴格的生成規則，該規則將答案限制為僅由提供的檢索上下文明確支持的信息。
使用時機
適用於政策、合約、受規定的內容或其他需要避免外部模型填補空白的任務。
注意
此規則無法彌補因資料品質不佳、不完整、過時或未經授權而導致的檢索結果。
應用範例
僅使用 <retrieved_context>。 如果上下文不包含答案，則返回 insufficient_evidence，而不是使用先前的知識。RAG 提示模式。
沒有證據的回應和放棄
No-evidence response and abstention
意思
一個定義的回應，當檢索到的證據缺失、不足、矛盾或低於支援閾值時使用。
使用時機
運用它來防止主觀猜測，並將案例轉發給澄清、再次嘗試檢索或人工審閱。
應用範例
如果沒有任何段落直接支持答案，則返回狀態：insufficient_evidence（證據不足），解釋缺少的部分，並提出一個澄清性的問題。RAG 提示模式。
引用格式說明
Citation format instruction
意思
一個提示合約，定義原始標識符必須出現在生成答案中的位置和方式。
使用時機
運用它來產生可供應用程式和審閱者一致驗證的聲明級別的參考。
注意
格式化引用並不證明引用的段落支持該主張；請單獨驗證引用的正確性。
應用範例
在每個支持的句子之後，引用一個或多個檢索到的 ID，格式為 [S1]。切勿編造 ID，也不要引用不支持該句子的來源。RAG 提示模式。
基於檢索上下文的合成
Retrieved-context synthesis
意思
將多個檢索段落中的互補證據結合為一個連貫的答案，同時保留原始來源的邊界。
使用時機
適用於比較、摘要或需要多個段落的多部分問題。
應用範例
根據子問題將段落分組，刪除重複項，保留日期和範圍，然後使用聲明級別的來源 ID 綜合答案。RAG 提示模式。
處理衝突來源
Conflicting-source handling
意思
一個提示規則，用於檢測和報告檢索來源之間的矛盾，而不是靜默地選擇其中一個。
使用時機
在文件可能因版本、日期、管轄權、權威或解釋而異時使用。
注意
僅僅依靠時效性並不總是決定權威性；將領域的優先級策略編碼到提示中或與提示一起。
應用範例
如果來源存在衝突，請列出每個聲明及其來源、版本和日期；識別衝突；應用明確的權威規則或請求審查。RAG 提示流程。
檢索品質和生成指令必須一起設計和評估；一個提示無法修復缺失或未經授權的證據。
| 階段 | 提示責任 |
|---|---|
| 在檢索之前 | 在重寫、擴展、過濾或分解查詢時，保持意圖。 |
| 上下文組裝 | 標記來源 ID、版本、日期、權限以及文本段落的邊界。 |
| 答案生成 | 限制聲明，定義引用格式，並指定拒絕行為。 |
| 生成後 | 驗證聲明支持、引用正確性、衝突、完整性和訪問合規性。 |
常見問題
嚴格的僅上下文提示是否可以保證提供準確的答案？
否。它會減少允許的證據範圍，但答案仍然可能誤讀段落、組合不相容的來源、添加不正確的引用，或依賴於不佳的檢索結果。驗證檢索召回率、聲明支持、引用正確性以及放棄行為。
何時 RAG 系統應該選擇不回答，而是保持沉默？
當沒有任何授權內容直接支持所需的聲明時，證據低於定義的閾值，來源存在衝突且沒有權威規則，或者問題太模糊，無法安全檢索時，請選擇「不確定」。返回一個結構化的原因以及下一步的有用操作。
RAG 提示是否應該要求引用？
當使用者或下游系統需要驗證聲明時，則為「是」，但應用程式必須保留原始來源標識符，並驗證每個引用的段落是否支持相鄰的聲明。 模型絕不能捏造來源 ID。
官方參考資料
- Microsoft Learn — RAG information-retrieval phase
關於查詢增強、分解、重寫、檢索、重新排序和累積上下文的官方架構指南。
- Amazon Bedrock — Configure knowledge-base queries and response generation
關於管弦和生成提示模板、運行時佔位符、檢索的上下文、查詢和引用輸出的官方文檔。
- Google Cloud — Check grounding with RAG
關於測量生成的聲明是否得到提供的事實支持以及識別支持或矛盾證據的官方指南。
相關術語指南
- AI 提示設計術語
審查指令、約束、輸出模式、任務分解、推理和驗證器模式。
- AI 上下文工程術語
整理、彙集、排序、壓縮、快取並追蹤檢索到的證據和對話狀態。
- AI 結果驗證與評估術語
測量 groundedness（可追溯性）、引用品質、完整性、回歸、延遲和成本。
- AI 安全與隱私術語
保護檢索管道，防止間接提示注入、未經授權的數據訪問以及不安全的輸出。