Kỹ thuật AI tạo sinh
Tìm hiểu về việc nhập dữ liệu, lập chỉ mục, truy xuất, xếp hạng, gắn kết, trích dẫn và các mẫu prompt RAG được sử dụng để xây dựng các câu trả lời AI có thể xác minh từ các tài liệu đáng tin cậy.
19 thuật ngữ
Tổng quan.
Retrieval-augmented generation (RAG)
Một mẫu trích xuất thông tin bên ngoài liên quan và cung cấp nó cho một mô hình trước khi tạo.
Sử dụng khi các câu trả lời nên dựa trên các tài liệu hiện tại, riêng tư hoặc cụ thể cho một lĩnh vực.
Truy xuất các đoạn văn bản chính sách cho câu hỏi, sau đó trả lời chỉ sử dụng các đoạn văn bản đó.Hấp thụ
Chunking
Chia nhỏ các tài liệu thành các đơn vị nhỏ hơn để có thể lập chỉ mục và truy xuất.
Chọn các ranh giới của đoạn để bảo toàn ý nghĩa đồng thời giữ cho việc truy xuất tập trung.
Chia hướng dẫn thành các phần và giữ nguyên tiêu đề cùng với các đoạn văn của nó.Chỉ mục
Embedding
Một vectơ số đại diện cho các đặc điểm ngữ nghĩa của văn bản hoặc nội dung khác.
Sử dụng embedding để so sánh độ tương đồng ngữ nghĩa vượt ra ngoài việc khớp chính xác từ khóa.
Tạo các embedding cho mỗi đoạn văn bản và cho truy vấn của người dùng.Chỉ mục
Vector store
Một hệ thống lưu trữ các embedding và hỗ trợ tìm kiếm theo lân cận.
Sử dụng nó để quản lý các chỉ mục ngữ nghĩa và siêu dữ liệu tài liệu liên quan.
Lưu trữ mỗi vectơ phân đoạn cùng với URL nguồn, tiêu đề và phạm vi truy cập của nó.Truy xuất
Similarity search
Truy xuất dựa trên mức độ gần nhau của các biểu diễn vector theo một thước đo khoảng cách được chọn.
Sử dụng để tìm các đoạn văn có ý nghĩa liên quan đến truy vấn.
Tìm kiếm kho vectơ để tìm các đoạn văn bản gần nhất với nhúng truy vấn.Truy xuất
Retriever
Thành phần chọn các tài liệu hoặc đoạn văn bản ứng viên cho một truy vấn.
Cấu hình để kết hợp việc viết lại truy vấn, bộ lọc, phương pháp tìm kiếm và giới hạn kết quả.
Trình truy xuất trả về các đoạn chính sách mà người dùng hiện tại được phép truy cập.Truy xuất
Top-k
Số lượng kết quả tìm kiếm được xếp hạng cao nhất được chọn cho giai đoạn tiếp theo.
Điều chỉnh nó để cân bằng phạm vi bao phủ bằng chứng với nhiễu và việc sử dụng ngữ cảnh.
Truy xuất 8 ứng viên hàng đầu, sau đó sắp xếp lại và giữ lại 4 ứng viên tốt nhất.Truy xuất
Metadata filter
Một ràng buộc thu hẹp kết quả tìm kiếm dựa trên các thuộc tính như ngày, sản phẩm, ngôn ngữ hoặc quyền.
Sử dụng nó trước khi xếp hạng ngữ nghĩa để thực thi phạm vi và kiểm soát truy cập.
Lọc các tài liệu tiếng Hàn được xuất bản sau năm 2025 mà người dùng có thể xem.Truy xuất
Hybrid search
Một phương pháp tìm kiếm kết hợp các tín hiệu từ khóa từ vựng với các tín hiệu vectơ ngữ nghĩa.
Sử dụng khi cả định danh chính xác và sự tương đồng khái niệm đều quan trọng.
Kết hợp kết quả tìm kiếm từ khóa BM25 với độ tương đồng của embedding cho mã lỗi AB-104.Xếp hạng.
Reranking
Một mô hình hoặc quy tắc ở giai đoạn thứ hai, sắp xếp lại các ứng viên đã được truy xuất để đánh giá mức độ liên quan.
Sử dụng để cải thiện độ chính xác sau khi thu thập một tập hợp ứng viên rộng hơn.
Sắp xếp lại 20 đoạn văn bản ứng viên và gửi 5 đoạn tốt nhất đến trình tạo.Phản hồi dựa trên sự thật
Grounding
Kết nối một phản hồi được tạo với bằng chứng được cung cấp hoặc truy xuất.
Sử dụng nó để giảm số lượng tuyên bố không được hỗ trợ và làm cho câu trả lời có thể kiểm tra được.
Chỉ trả lời các tuyên bố được hỗ trợ bởi các đoạn chính sách được trích xuất.Phản hồi dựa trên sự thật
Citation
Một tham chiếu xác định nguồn hỗ trợ một tuyên bố.
Đính kèm trích dẫn ở cấp độ tuyên bố để người đọc có thể nhanh chóng xác minh bằng chứng.
Một trích dẫn vẫn có thể chỉ đến bằng chứng không liên quan; hãy xác minh rằng nó thực sự hỗ trợ tuyên bố.
Bao gồm tiêu đề tài liệu, phần và liên kết nguồn trực tiếp cho mỗi tuyên bố chính sách.Các mẫu lời nhắc RAG.
Query rewriting prompt
Một hướng dẫn chuyển đổi yêu cầu của người dùng thành một hoặc nhiều truy vấn phù hợp hơn cho việc truy xuất theo từ khóa, ngữ nghĩa, kết hợp hoặc lọc.
Sử dụng nó cho các câu hỏi mơ hồ, mang tính hội thoại, không được xác định rõ ràng hoặc không phù hợp với miền trong khi vẫn giữ nguyên ý định ban đầu.
Không thay đổi ý định của người dùng một cách lặng lẽ, thêm các sự kiện không được hỗ trợ hoặc làm suy yếu bộ lọc truy cập.
Viết lại câu hỏi để tìm kiếm kết hợp. Giữ nguyên ý định ban đầu, thêm thuật ngữ tài liệu có khả năng xuất hiện và trả về câu hỏi gốc cùng với tối đa ba câu hỏi đã được viết lại.Các mẫu lời nhắc RAG.
Grounded-answer instruction
Một quy tắc lời nhắc yêu cầu các tuyên bố thực tế phải được hỗ trợ bởi các đoạn được truy xuất được cung cấp cho bước tạo.
Sử dụng khi các câu trả lời phải được kiểm tra và kiến thức mô hình không được hỗ trợ không được trình bày như bằng chứng.
Trả lời câu hỏi bằng các đoạn văn được cung cấp. Gắn ID nguồn hỗ trợ cho mỗi tuyên bố thực tế và phân biệt rõ ràng các suy luận.Các mẫu lời nhắc RAG.
Context-only answering
Một quy tắc tạo nghiêm ngặt, giới hạn câu trả lời chỉ dựa trên thông tin được hỗ trợ rõ ràng trong ngữ cảnh cung cấp.
Sử dụng nó cho các chính sách, hợp đồng, nội dung được kiểm duyệt hoặc các tác vụ khác trong đó kiến thức mô hình bên ngoài không được sử dụng để lấp đầy khoảng trống.
Quy tắc này không thể khắc phục các kết quả truy xuất kém, không đầy đủ, lỗi thời hoặc trái phép.
Chỉ sử dụng <retrieved_context>. Nếu ngữ cảnh không chứa câu trả lời, hãy trả về insufficient_evidence thay vì sử dụng kiến thức trước đó.Các mẫu lời nhắc RAG.
No-evidence response and abstention
Một phản hồi dự phòng được xác định rõ ràng được sử dụng khi không có bằng chứng được truy xuất, không đủ, mâu thuẫn hoặc dưới ngưỡng hỗ trợ.
Sử dụng nó để ngăn chặn việc đưa ra phỏng đoán không chính xác và chuyển hướng trường hợp đến việc làm rõ, thử truy xuất lại hoặc đánh giá của con người.
Nếu không có đoạn nào trực tiếp hỗ trợ câu trả lời, hãy trả về trạng thái: insufficient_evidence (thiếu bằng chứng), giải thích những gì còn thiếu và đề xuất một câu hỏi làm rõ.Các mẫu lời nhắc RAG.
Citation format instruction
Một hợp đồng lời nhắc xác định vị trí và cách các định danh nguồn phải xuất hiện trong câu trả lời được tạo.
Sử dụng nó để tạo ra các tham chiếu ở mức tuyên bố mà các ứng dụng và người đánh giá có thể xác minh một cách nhất quán.
Việc định dạng một trích dẫn không chứng minh rằng đoạn văn được trích dẫn hỗ trợ tuyên bố; hãy xác thực tính chính xác của trích dẫn một cách riêng biệt.
Sau mỗi câu được hỗ trợ, hãy trích dẫn một hoặc nhiều ID đã thu thập theo định dạng [S1]. Không được tự ý tạo ID và không được trích dẫn nguồn không hỗ trợ câu đó.Các mẫu lời nhắc RAG.
Retrieved-context synthesis
Kết hợp các bằng chứng bổ sung từ nhiều đoạn văn được trích xuất thành một câu trả lời mạch lạc mà không xóa các ranh giới nguồn.
Sử dụng nó để so sánh, tóm tắt hoặc trả lời các câu hỏi nhiều phần đòi hỏi nhiều đoạn văn.
Nhóm các đoạn văn theo câu hỏi phụ, loại bỏ các bản sao, giữ nguyên ngày tháng và phạm vi, sau đó tổng hợp câu trả lời với ID nguồn ở mức tuyên bố.Các mẫu lời nhắc RAG.
Conflicting-source handling
Một quy tắc lời nhắc để phát hiện và báo cáo sự mâu thuẫn giữa các nguồn được truy xuất thay vì chọn một trong số chúng một cách im lặng.
Sử dụng khi các tài liệu có thể khác nhau về phiên bản, ngày tháng, khu vực pháp lý, thẩm quyền hoặc diễn giải.
Chỉ tính đến mức độ gần đây không phải lúc nào cũng xác định tính chính xác; mã hóa chính sách ưu tiên nguồn của miền bên ngoài hoặc cùng với lời nhắc.
Nếu các nguồn mâu thuẫn, hãy liệt kê từng tuyên bố cùng với nguồn, phiên bản và ngày; xác định sự mâu thuẫn; áp dụng quy tắc ủy quyền rõ ràng hoặc yêu cầu xem xét.Chất lượng truy xuất và hướng dẫn tạo phải được thiết kế và đánh giá cùng nhau; một lời nhắc không thể khắc phục các bằng chứng bị thiếu hoặc không được phép.
| Giai đoạn | Trách nhiệm lời nhắc |
|---|---|
| Trước khi truy xuất | Duy trì ý định khi viết lại, mở rộng, lọc hoặc phân tách truy vấn. |
| Tổng hợp ngữ cảnh | Gán nhãn cho ID nguồn, phiên bản, ngày, quyền và ranh giới đoạn văn. |
| Tạo câu trả lời | Hạn chế các tuyên bố chỉ bằng chứng, xác định định dạng trích dẫn và chỉ định hành vi từ chối. |
| Sau khi tạo | Xác thực hỗ trợ tuyên bố, tính chính xác của trích dẫn, xung đột, tính đầy đủ và tuân thủ quyền truy cập. |
Không. Nó làm giảm phạm vi bằng chứng được phép, nhưng câu trả lời vẫn có thể hiểu sai các đoạn văn, kết hợp các nguồn không tương thích, gắn nhãn trích dẫn không chính xác hoặc dựa vào việc truy xuất kém. Xác thực khả năng truy xuất, hỗ trợ tuyên bố, tính chính xác của trích dẫn và hành vi từ chối.
Bỏ qua khi không có đoạn văn nào được phép trực tiếp hỗ trợ cho tuyên bố cần thiết, bằng chứng nằm dưới ngưỡng định trước, các nguồn mâu thuẫn mà không có quy tắc ưu tiên, hoặc câu hỏi quá mơ hồ để có thể trả lời một cách an toàn. Trả về lý do được cấu trúc và hành động tiếp theo hữu ích.
Có, khi người dùng hoặc hệ thống khác cần xác minh các tuyên bố, nhưng ứng dụng phải bảo toàn các định danh nguồn gốc thực tế và xác minh rằng mỗi đoạn được trích dẫn hỗ trợ tuyên bố gần đó. Mô hình không bao giờ được tạo ra các ID nguồn gốc.
Hướng dẫn kiến trúc chính thức về tăng cường truy vấn, phân tách, viết lại, truy xuất, sắp xếp lại và ngữ cảnh tích lũy.
Tài liệu chính thức về điều phối và tạo mẫu lời nhắc, placeholder thời gian chạy, ngữ cảnh được truy xuất, truy vấn và hướng dẫn đầu ra trích dẫn.
Hướng dẫn chính thức về việc đo lường xem các tuyên bố được tạo có được hỗ trợ bởi các sự kiện được cung cấp hay không và xác định bằng chứng hỗ trợ hoặc mâu thuẫn.
Đánh giá hướng dẫn, ràng buộc, lược đồ đầu ra, phân tách tác vụ, suy luận và các mẫu xác minh.
Chuẩn bị, tổng hợp, sắp xếp, nén, lưu trữ tạm thời và theo dõi bằng chứng và trạng thái hội thoại đã thu thập.
Đo độ chính xác, chất lượng trích dẫn, tính đầy đủ, khả năng hồi quy, độ trễ và chi phí.
Bảo vệ các quy trình truy xuất dữ liệu khỏi việc chèn lệnh ẩn, truy cập dữ liệu trái phép và các kết quả không an toàn.