जनरेटिव AI इंजीनियरिंग
जेनरेटिव AI और बड़े भाषा मॉडल के साथ काम करते समय उपयोग किए गए मॉडल, इनपुट, संदर्भ, पीढ़ी और संचालन शब्दों को समझें।
12 शब्द
मॉडल
Generative AI
AI जो सीखी गई पैटर्नों से नया टेक्स्ट, इमेज, ऑडियो, कोड, या अन्य सामग्री बनाता है।
इस शब्द का उपयोग तब करें जब सामग्री-उत्पादक प्रणालियों को वर्गीकरण या भविष्यवाणी प्रणालियों से अलग किया जा रहा हो।
तीन उत्पाद विवरणों का मसौदा तैयार करने के लिए जेनरेटिव AI का उपयोग करें, और फिर तथ्यात्मक सटीकता के लिए उनकी समीक्षा करें।मॉडल
Foundation model
एक व्यापक रूप से प्रशिक्षित मॉडल जिसे कई डाउनस्ट्रीम कार्यों के लिए अनुकूलित किया जा सकता है।
इसका उपयोग तब करें जब आप चैटबॉट, एजेंट या विशेष एप्लिकेशन के पीछे के बेस मॉडल पर चर्चा कर रहे हों।
एक फाउंडेशन मॉडल का चयन करें, फिर ग्राहक सहायता के लिए पुनर्प्राप्ति और कार्य-विशिष्ट निर्देश जोड़ें।मॉडल
Large language model (LLM)
एक मॉडल जिसे भाषा अनुक्रमों को समझने और उत्पन्न करने के लिए बड़े पाठ संग्रह पर प्रशिक्षित किया गया है।
इसका उपयोग टेक्स्ट जनरेशन, समरी, एक्सट्रैक्शन, ट्रांसलेशन और कन्वर्सेशनल टास्क के लिए करें।
LLM से मीटिंग के ट्रांसक्रिप्ट को निर्णयों, मालिकों और समय-सीमाओं में सारांशित करने के लिए कहें।मॉडल
Multimodal model
एक मॉडल जो एक से अधिक डेटा प्रकारों को संसाधित या उत्पन्न कर सकता है, जैसे कि पाठ और चित्र।
इसका उपयोग तब करें जब एक कार्य में स्क्रीनशॉट, दस्तावेज़, ऑडियो, वीडियो, या टेक्स्ट शामिल होता है।
एक चार्ट छवि प्रदान करें और बहु-मोडल मॉडल से दृश्यमान प्रवृत्ति को समझाने के लिए कहें।इनपुट और संदर्भ (Input and context)
Token
एक पाठ इकाई जिसे एक भाषा मॉडल द्वारा संसाधित किया जाता है; यह एक शब्द, शब्द का भाग, या विराम चिह्न हो सकता है।
संदर्भ क्षमता, विलंबता और उपयोग लागत का अनुमान लगाने के लिए टोकन गणना का उपयोग करें।
बार-बार आने वाले निर्देशों को काट दें जब इनपुट मॉडल की टोकन सीमा के करीब हो।इनपुट और संदर्भ (Input and context)
Context window
अधिकतम मात्रा में इनपुट और उत्पन्न आउटपुट जिसे एक मॉडल एक अनुरोध में विचार कर सकता है।
इसका उपयोग यह तय करने के लिए करें कि क्या दस्तावेज़ों को सारांशित, खंडित, या चयनात्मक रूप से पुनर्प्राप्त किया जाना चाहिए।
एक बड़ा संदर्भ विंडो यह गारंटी नहीं देता है कि शामिल प्रत्येक विवरण का सही ढंग से उपयोग किया जाएगा।
पूरे संग्रह को संदर्भ विंडो में रखने के बजाय, पांच सबसे प्रासंगिक अनुच्छेदों को पुनर्प्राप्त करें।इनपुट और संदर्भ (Input and context)
System instruction
एक उच्च-प्राथमिकता निर्देश जो मॉडल की भूमिका, नियमों और प्रतिक्रिया व्यवहार को परिभाषित करता है।
इसका उपयोग कई उपयोगकर्ता अनुरोधों द्वारा साझा किए गए टिकाऊ व्यवहार को सेट करने के लिए करें।
आप एक सहायता सहायक हैं। आपूर्ति की गई नीति का हवाला दें और बताएं कि जब सबूत गायब हैं।ऑपरेशन
Model weights
संख्यात्मक मान जिन्हें प्रशिक्षण के दौरान प्राप्त पैटर्न को एन्कोड किया जाता है।
इस शब्द का उपयोग तब करें जब बेस, फाइन-ट्यून, क्वांटाइज्ड या ओपन-वेट मॉडल की तुलना की जा रही हो।
अलग-अलग अनुमान वातावरण में स्वीकृत मॉडल भार लोड करें।ऑपरेशन
Inference
प्रशिक्षित मॉडल को नए इनपुट पर चलाने की प्रक्रिया ताकि एक आउटपुट उत्पन्न हो सके।
इसका उपयोग तब करें जब आप सेवा, विलंबता, हार्डवेयर या प्रति-अनुरोध लागत पर चर्चा कर रहे हों।
थ्रूपुट में सुधार के लिए बैच गैर-तत्काल इन्फेरेंस अनुरोध।ऑपरेशन
Knowledge cutoff
मॉडल के प्रशिक्षण ज्ञान में सबसे हालिया समय बिंदु जो महत्वपूर्ण रूप से दर्शाया गया है।
हाल की घटनाओं, कीमतों, नीतियों या सॉफ़्टवेयर संस्करणों के बारे में पूछने से पहले इसकी जाँच करें।
उन घटनाओं के लिए लाइव खोज का उपयोग करें जो मॉडल के ज्ञान कटऑफ के बाद हुईं।Generation
Sampling
प्रत्येक अगले टोकन को मॉडल के संभाव्यता वितरण से चुनने की विधि।
जब आपको अधिक नियतात्मक या अधिक विविध आउटपुट की आवश्यकता होती है तो सैंपलिंग को समायोजित करें।
नीति निष्कर्षण के लिए रूढ़िवादी नमूने और विचार-मंथन के लिए व्यापक नमूने का उपयोग करें।Generation
Temperature
एक पीढ़ी सेटिंग जो आमतौर पर टोकन विकल्पों की सांद्रता या विविधता को नियंत्रित करती है।
इसे दोहराए जाने वाले संरचित कार्यों के लिए कम करें और अन्वेषण के लिए इसे सावधानीपूर्वक बढ़ाएं।
सटीक प्रभाव और समर्थित सीमा मॉडल और प्रदाता के आधार पर भिन्न होती है।
चालानों को एक निश्चित JSON स्कीमा में बदलने के लिए एक कम तापमान सेट करें।