AI Engineering Tools

Kỹ thuật AI tạo sinh

Thuật ngữ thiết kế prompt AI

Tìm hiểu cách các vai trò, hướng dẫn, ngữ cảnh, ví dụ, lược đồ đầu ra, quy trình làm việc nhiều bước và các mẫu suy luận nâng cao định hình các phản hồi AI đáng tin cậy.

18 thuật ngữ

Cấu trúc

Vai trò.

Role

Ý nghĩa

Một mô tả về quan điểm hoặc công việc mà mô hình nên áp dụng.

Khi dùng

Sử dụng để thiết lập chuyên môn, đối tượng và giọng điệu phù hợp.

Ví dụ

Đóng vai trò là một biên tập viên kỹ thuật người Hàn Quốc cho các nhà phát triển mới bắt đầu.

Cấu trúc

Hướng dẫn

Instruction

Ý nghĩa

Một tuyên bố trực tiếp về nhiệm vụ mà mô hình nên thực hiện.

Khi dùng

Sử dụng động từ rõ ràng và kết quả đầu ra rõ ràng để giảm sự mơ hồ.

Ví dụ

Tóm tắt báo cáo thành năm điểm chính để đưa ra quyết định.

Cấu trúc

Ngữ cảnh

Context

Ý nghĩa

Thông tin nền mà mô hình cần để hiểu đúng nhiệm vụ.

Khi dùng

Cung cấp đối tượng, mục tiêu, ràng buộc, tài liệu nguồn và định nghĩa ảnh hưởng đến câu trả lời.

Ví dụ

Bối cảnh: Người đọc là người dùng mới và tính năng sẽ được ra mắt vào tuần tới.

Cấu trúc

Ràng buộc

Constraint

Ý nghĩa

Một giới hạn về nội dung, độ dài, kiểu, công cụ hoặc các hành động được phép.

Khi dùng

Sử dụng nó để làm cho các tiêu chí chấp nhận rõ ràng và có thể kiểm tra được.

Ví dụ

Chỉ sử dụng chính sách được cung cấp, giữ dưới 150 từ và không suy luận các ngày bị thiếu.

Cấu trúc

Ký tự phân cách

Delimiter

Ý nghĩa

Một dấu hiệu phân tách các hướng dẫn, ví dụ và dữ liệu nguồn.

Khi dùng

Sử dụng các thẻ, tiêu đề hoặc khối được phân chia giống như XML khi lời nhắc chứa nhiều phần.

Ví dụ

Summarize only the text inside <source>...</source>.

Ví dụ

Nhắc lệnh zero-shot

Zero-shot prompting

Ý nghĩa

Yêu cầu một tác vụ mà không cung cấp một ví dụ đã được thực hiện.

Khi dùng

Bắt đầu từ đây cho các tác vụ phổ biến mà mô hình đã hiểu rõ.

Ví dụ

Phân loại mỗi đánh giá là tích cực, trung tính hoặc tiêu cực.

Ví dụ

Prompting theo kiểu "few-shot".

Few-shot prompting

Ý nghĩa

Cung cấp một tập hợp nhỏ các ví dụ đầu vào-đầu ra trước khi thực hiện tác vụ thực tế.

Khi dùng

Sử dụng nó để dạy một chính sách gắn nhãn cụ thể, tông giọng, trường hợp đặc biệt hoặc mẫu đầu ra.

Ví dụ

Đầu vào: Giao hàng nhanh chóng. Đầu ra: tích cực về hậu cần. Bây giờ hãy phân loại: hộp đã đến bị hư hỏng.

Tái sử dụng.

Mẫu lời nhắc

Prompt template

Ý nghĩa

Một lời nhắc có thể tái sử dụng với các vị trí dành sẵn được điền bằng các biến trong thời gian chạy.

Khi dùng

Sử dụng nó cho các quy trình lặp đi lặp lại đòi hỏi các hướng dẫn nhất quán.

Ví dụ

Summarize {{document}} for {{audience}} using {{format}}.

Đầu ra.

Đầu ra có cấu trúc

Structured output

Ý nghĩa

Một phản hồi có cấu trúc rõ ràng và có thể đọc được bằng máy.

Khi dùng

Sử dụng khi một chương trình khác sẽ phân tích hoặc xác thực kết quả.

Ví dụ

Trả về một đối tượng với title, summary, risk_level và source_ids.

Đầu ra.

JSON Schema

JSON Schema

Ý nghĩa

Một mô tả chính thức về các trường JSON được phép, kiểu và các giá trị bắt buộc.

Khi dùng

Sử dụng các ràng buộc lược đồ được hỗ trợ để giảm lỗi phân tích cú pháp trong các quy trình tự động.

Ví dụ

Yêu cầu status là một kiểu liệt kê và due_date là một ngày tháng theo tiêu chuẩn ISO, có thể là giá trị null.

Quy trình làm việc

Phân tách tác vụ

Task decomposition

Ý nghĩa

Chia một yêu cầu phức tạp thành các tác vụ con nhỏ hơn, có thể xác minh được.

Khi dùng

Sử dụng khi nghiên cứu, chuyển đổi, kiểm tra và tổng hợp cuối cùng yêu cầu các bước khác nhau.

Ví dụ

Đầu tiên, trích xuất các yêu cầu, sau đó xác định các xung đột, sau đó soạn thảo và xác minh câu trả lời.

Quy trình làm việc

Chuỗi lời nhắc

Prompt chaining

Ý nghĩa

Truyền kết quả của một bước mô hình vào một bước mô hình tiếp theo.

Khi dùng

Sử dụng khi các kết quả trung gian nên được kiểm tra, chuyển đổi hoặc phê duyệt.

Lưu ý

Các lỗi có thể lan truyền qua các bước, vì vậy hãy xác thực các đầu ra trung gian quan trọng.

Ví dụ

Extract claims -> retrieve evidence -> verify each claim -> write the final brief.

Các phương pháp suy luận nâng cao

Gợi ý ngược

Step-back prompting

Ý nghĩa

Bắt đầu với một nguyên tắc, định nghĩa hoặc khung quyết định rộng hơn trước khi trả lời một câu hỏi cụ thể.

Khi dùng

Sử dụng khi trường hợp cụ thể dễ bị hiểu sai nếu không xác định trước các khái niệm hoặc ràng buộc chi phối.

Lưu ý

Bước rộng hơn vẫn có thể sai hoặc không liên quan, vì vậy hãy xác minh nó với các nguồn có thẩm quyền.

Ví dụ

Đầu tiên, xác định các nguyên tắc chính sách chi phối tính đủ điều kiện để hoàn tiền. Sau đó, áp dụng chúng cho trường hợp này và trích dẫn các điều khoản hỗ trợ.

Các phương pháp suy luận nâng cao

Prompt theo thứ tự từ đơn giản đến phức tạp

Least-to-most prompting

Ý nghĩa

Giải quyết các bài toán phụ đơn giản hơn trước, sau đó sử dụng các kết quả đã được xác minh để giải quyết nhiệm vụ tổng thể khó hơn.

Khi dùng

Sử dụng khi các kết luận sau này phụ thuộc vào nhiều phép tính, sự kiện hoặc quyết định tiên quyết.

Lưu ý

Một lỗi sớm có thể lan truyền qua các bước sau; xác thực đầu ra tiên quyết trước khi sử dụng lại.

Ví dụ

1. Trích xuất ngày hợp đồng. 2. Tính toán từng khoảng thời gian thông báo. 3. So sánh các khoảng thời gian với điều khoản chấm dứt. 4. Báo cáo kết luận kèm theo bằng chứng.

Các phương pháp suy luận nâng cao

Tính nhất quán

Self-consistency

Ý nghĩa

Tạo nhiều giải pháp ứng viên được lấy mẫu độc lập và chọn một câu trả lời được hỗ trợ bởi sự đồng thuận hoặc một quy tắc xác minh riêng.

Khi dùng

Sử dụng có chọn lọc cho các tác vụ khó, nơi có thể so sánh nhiều đường dẫn giải pháp hợp lệ và chi phí bổ sung được biện minh.

Lưu ý

Sự đồng ý không chứng minh tính đúng đắn, các lỗi tương quan có thể đồng ý, và nhiều mẫu tăng độ trễ và chi phí.

Ví dụ

Tạo năm tổng ứng viên độc lập, so sánh các giá trị cuối cùng và chỉ chấp nhận một nếu các hàng nguồn và phép tính xác định xác minh nó.

Các phương pháp suy luận nâng cao

Phê bình và sửa đổi

Critique-and-revise

Ý nghĩa

Tạo ra một bản nháp, đánh giá nó dựa trên các tiêu chí và bằng chứng cụ thể và sửa đổi các điểm yếu đã xác định.

Khi dùng

Sử dụng khi đầu ra có một tiêu chí đánh giá có thể được xem xét, chẳng hạn như tính đầy đủ, hỗ trợ nguồn, định dạng, giọng điệu hoặc tuân thủ chính sách.

Lưu ý

Một mô hình có thể bỏ qua những sai lầm của chính nó; kết quả quan trọng vẫn cần kiểm tra độc lập hoặc đánh giá của con người.

Ví dụ

Soạn câu trả lời. Đánh giá nó dựa trên các sự kiện cần thiết, trích dẫn, các tuyên bố bị cấm và độ dài. Chỉ sửa các mục bị lỗi, sau đó trả về câu trả lời cuối cùng.

Các phương pháp suy luận nâng cao

Lập kế hoạch và thực hiện

Plan-and-execute

Ý nghĩa

Tách lập kế hoạch tác vụ khỏi thực thi để các phụ thuộc, công cụ, điểm kiểm tra và tiêu chí hoàn thành được xác định trước khi công việc bắt đầu.

Khi dùng

Sử dụng nó cho các công việc nhiều bước trong đó thứ tự, quyền, giới hạn tài nguyên hoặc xác thực trung gian là quan trọng.

Lưu ý

Xem xét kế hoạch là có thể sửa đổi; không nên tiếp tục một cách mù quáng khi có bằng chứng mới làm cho nó trở nên không hợp lệ.

Ví dụ

Trả về một kế hoạch hành động ngắn gọn với các phụ thuộc và điểm phê duyệt. Thực hiện từng bước đã được phê duyệt, ghi lại bằng chứng và lập kế hoạch lại khi một giả định không thành công.

Các phương pháp suy luận nâng cao

Mẫu xác thực

Verifier pattern

Ý nghĩa

Sử dụng một bước xác minh riêng biệt để kiểm tra câu trả lời tiềm năng so với các quy tắc, bằng chứng, lược đồ hoặc các công cụ xác định trước khi chấp nhận.

Khi dùng

Sử dụng khi các tuyên bố quan trọng, tính toán, trích dẫn, đầu ra có cấu trúc hoặc đối số công cụ có thể được kiểm tra một cách độc lập.

Lưu ý

Một trình xác minh cho rằng cùng một bằng chứng bị thiếu hoặc các giả định sai lầm có thể khiến bộ tạo mắc lỗi tương tự.

Ví dụ

Trình tạo: Tạo bản tóm tắt hóa đơn với ID hàng nguồn. Trình xác minh: Tính toán lại tổng, xác thực lược đồ và từ chối các yêu cầu không được hỗ trợ.

Chọn một mẫu suy luận nâng cao

Chỉ chọn một mẫu khi cấu trúc tác vụ và bằng chứng đánh giá biện minh cho các bước, mã thông báo, độ trễ và độ phức tạp bổ sung.

Nhu cầuMẫu cần xem xét
Xác định các nguyên tắc điều chỉnh trước khi áp dụng chúng vào một trường hợp.Gợi ý ngược
Giải quyết các bài toán phụ cần thiết theo thứ tự phụ thuộc.Prompt theo thứ tự từ đơn giản đến phức tạp
So sánh nhiều giải pháp ứng cử viên khi việc lấy mẫu bổ sung được biện minh.Tính nhất quán cộng với xác minh độc lập
Cải thiện bản nháp dựa trên các tiêu chí đánh giá rõ ràng.Phê bình và sửa đổi
Phối hợp các phụ thuộc, công cụ và điểm kiểm tra phê duyệt.Lập kế hoạch và thực hiện
Từ chối các tuyên bố không được hỗ trợ, lược đồ không hợp lệ hoặc tính toán sai.Mẫu xác thực

Câu hỏi thường gặp

Có nên nhắc mô hình tiết lộ toàn bộ chuỗi suy nghĩ nội bộ của nó không?

Không. Ưu tiên câu trả lời ngắn gọn, kết quả trung gian có thể kiểm tra, bằng chứng được trích dẫn, giả định, tính toán và kết quả xác thực. Một số mô hình suy luận thực hiện suy nghĩ nội bộ tự động, và một giải thích dài hiển thị không phải là bằng chứng cho thấy câu trả lời là đúng.

Các mẫu suy luận nâng cao có luôn cải thiện độ chính xác không?

Không. Hiệu ứng của chúng khác nhau tùy thuộc vào mô hình, nhiệm vụ, lời nhắc, phương pháp lấy mẫu và phương pháp đánh giá. Chúng cũng có thể thêm độ trễ, chi phí token, lỗi tương quan và lan truyền lỗi. So sánh chúng với một baseline đơn giản trên các trường hợp điển hình.

Verifier khác gì so với critique-and-revise?

Phê bình và sửa đổi cải thiện bản nháp thông qua đánh giá và chỉnh sửa. Một người xác minh đóng vai trò là một cổng chấp nhận, kiểm tra ứng viên so với bằng chứng, quy tắc, lược đồ hoặc công cụ xác định và có thể từ chối mà không cần viết lại.

Tài liệu tham khảo chính thức

Hướng dẫn thuật ngữ liên quan