Kỹ thuật AI tạo sinh

Thuật ngữ cơ bản về AI tạo sinh và LLM

Hiểu các thuật ngữ mô hình, đầu vào, ngữ cảnh, tạo và hoạt động khi làm việc với AI tạo sinh và các mô hình ngôn ngữ lớn.

12 thuật ngữ

Các mô hình

AI tạo sinh.

Generative AI

Ý nghĩa

AI tạo ra văn bản, hình ảnh, âm thanh, mã nguồn hoặc các nội dung khác dựa trên các mẫu đã học.

Khi dùng

Sử dụng thuật ngữ này khi phân biệt giữa các hệ thống tạo nội dung và các hệ thống phân loại hoặc dự đoán.

Ví dụ

Sử dụng AI tạo sinh để tạo ba mô tả sản phẩm, sau đó xem xét chúng về độ chính xác.

Các mô hình

Mô hình nền tảng

Foundation model

Ý nghĩa

Một mô hình được huấn luyện rộng rãi có thể được điều chỉnh để phù hợp với nhiều tác vụ.

Khi dùng

Sử dụng khi thảo luận về mô hình cơ sở đằng sau một chatbot, tác nhân hoặc ứng dụng chuyên dụng.

Ví dụ

Chọn một mô hình nền, sau đó thêm hướng dẫn truy xuất và hướng dẫn cụ thể cho tác vụ hỗ trợ khách hàng.

Các mô hình

Mô hình ngôn ngữ lớn (LLM)

Large language model (LLM)

Ý nghĩa

Một mô hình được huấn luyện trên các bộ sưu tập văn bản lớn để hiểu và tạo ra các chuỗi ngôn ngữ.

Khi dùng

Sử dụng nó cho tạo văn bản, tóm tắt, trích xuất, dịch và các tác vụ hội thoại.

Ví dụ

Yêu cầu LLM tóm tắt bản ghi cuộc họp thành các quyết định, người chịu trách nhiệm và thời hạn.

Các mô hình

Mô hình đa phương thức

Multimodal model

Ý nghĩa

Một mô hình có thể xử lý hoặc tạo ra nhiều loại dữ liệu, chẳng hạn như văn bản và hình ảnh.

Khi dùng

Sử dụng khi một tác vụ kết hợp ảnh chụp màn hình, tài liệu, âm thanh, video hoặc văn bản.

Ví dụ

Cung cấp một hình ảnh biểu đồ và yêu cầu mô hình đa phương thức giải thích xu hướng hiển thị.

Đầu vào và ngữ cảnh

Token

Ý nghĩa

Một đơn vị văn bản được xử lý bởi một mô hình ngôn ngữ; nó có thể là một từ, một phần của một từ hoặc dấu câu.

Khi dùng

Sử dụng số lượng token để ước tính dung lượng ngữ cảnh, độ trễ và chi phí sử dụng.

Ví dụ

Cắt bỏ các hướng dẫn lặp đi lặp lại khi đầu vào tiếp cận giới hạn token của mô hình.

Đầu vào và ngữ cảnh

Cửa sổ ngữ cảnh

Context window

Ý nghĩa

Số lượng đầu vào và đầu ra được tạo tối đa mà một mô hình có thể xem xét trong một yêu cầu.

Khi dùng

Sử dụng để quyết định xem tài liệu có nên được tóm tắt, chia nhỏ hoặc truy xuất có chọn lọc hay không.

Lưu ý

Một ngữ cảnh lớn hơn không đảm bảo rằng mọi chi tiết được đưa vào sẽ được sử dụng đúng cách.

Ví dụ

Truy xuất năm đoạn văn bản liên quan nhất thay vì đặt toàn bộ kho lưu trữ vào cửa sổ ngữ cảnh.

Đầu vào và ngữ cảnh

Hướng dẫn hệ thống

System instruction

Ý nghĩa

Một hướng dẫn có độ ưu tiên cao, xác định vai trò, quy tắc và hành vi phản hồi của mô hình.

Khi dùng

Sử dụng nó để thiết lập hành vi bền vững được chia sẻ bởi nhiều yêu cầu của người dùng.

Ví dụ

Bạn là một trợ lý hỗ trợ. Trích dẫn chính sách được cung cấp và cho biết khi nào có bằng chứng bị thiếu.

Hoạt động.

Trọng số mô hình

Model weights

Ý nghĩa

Các giá trị số đã học được mã hóa các mẫu thu được trong quá trình huấn luyện.

Khi dùng

Sử dụng thuật ngữ khi so sánh các mô hình cơ bản, tinh chỉnh, lượng tử hóa hoặc mã nguồn mở.

Ví dụ

Tải các trọng số mô hình đã được phê duyệt trong môi trường suy luận riêng biệt.

Hoạt động.

Suy luận

Inference

Ý nghĩa

Quá trình chạy một mô hình đã được huấn luyện trên dữ liệu đầu vào mới để tạo ra đầu ra.

Khi dùng

Sử dụng khi thảo luận về việc cung cấp dịch vụ, độ trễ, phần cứng hoặc chi phí trên mỗi yêu cầu.

Ví dụ

Xử lý các yêu cầu suy luận không khẩn cấp theo mảng để cải thiện hiệu suất.

Hoạt động.

Thời điểm kết thúc kiến thức

Knowledge cutoff

Ý nghĩa

Thời điểm gần đây nhất được biểu diễn đáng kể trong kiến thức huấn luyện của một mô hình.

Khi dùng

Kiểm tra thông tin này trước khi hỏi về các sự kiện gần đây, giá cả, chính sách hoặc phiên bản phần mềm.

Ví dụ

Sử dụng tìm kiếm trực tiếp cho các sự kiện xảy ra sau thời điểm kiến thức của mô hình.

Tạo

Lấy mẫu

Sampling

Ý nghĩa

Phương pháp được sử dụng để chọn mỗi token tiếp theo từ phân phối xác suất của mô hình.

Khi dùng

Điều chỉnh tần số lấy mẫu khi bạn cần kết quả có tính xác định cao hơn hoặc đa dạng hơn.

Ví dụ

Sử dụng lấy mẫu bảo thủ để trích xuất chính sách và lấy mẫu rộng hơn để tạo ý tưởng.

Tạo

Nhiệt độ

Temperature

Ý nghĩa

Một cài đặt tạo chung kiểm soát mức độ tập trung hoặc đa dạng của các lựa chọn token.

Khi dùng

Giảm giá trị này cho các tác vụ có cấu trúc lặp đi lặp lại và tăng giá trị này một cách thận trọng để khám phá.

Lưu ý

Hiệu ứng chính xác và phạm vi hỗ trợ khác nhau tùy theo mô hình và nhà cung cấp.

Ví dụ

Đặt nhiệt độ thấp để chuyển đổi hóa đơn thành lược đồ JSON cố định.