モデル
生成AI
Generative AI
意味
学習パターンから新しいテキスト、画像、オーディオ、コード、またはその他のコンテンツを作成するAI。
使用場面
コンテンツ生成システムと、分類または予測システムを区別する際に、この用語を使用してください。
活用例
生成AIを使用して3つの製品説明を草案し、その後、事実の正確性を確認します。生成AIエンジニアリング
生成AI・LLM基礎用語
生成AIおよび大規模言語モデルを使用する際に使用される、モデル、入力、コンテキスト、生成、および操作の用語を理解します。
12 件
モデル
基礎モデル
Foundation model
意味
多くのダウンストリームタスクに適応できる、広範にトレーニングされたモデル。
使用場面
チャットボット、エージェント、または特殊なアプリケーションの背後にある基本モデルについて議論する場合に使用します。
活用例
基礎モデルを選択し、顧客サポートのための検索とタスク固有の指示を追加します。モデル
大規模言語モデル (LLM)
Large language model (LLM)
意味
大量のテキストコレクションでトレーニングされ、言語シーケンスを理解し生成するモデル。
使用場面
テキスト生成、要約、抽出、翻訳、および会話タスクに使用します。
活用例
LLMに、会議の議事録を、決定事項、担当者、および締め切りにまとめるように指示します。モデル
複数モダリティモデル
Multimodal model
意味
テキストや画像など、複数のデータ型を処理または生成できるモデル。
使用場面
タスクが、スクリーンショット、ドキュメント、オーディオ、ビデオ、またはテキストを組み合わせている場合に、使用します。
活用例
グラフ画像を提示し、多言語モデルに、画像に示されている傾向を説明させます。入力とコンテキスト
トークン
Token
意味
言語モデルによって処理されるテキストの単位。単語、単語の一部、または句読点である可能性があります。
使用場面
コンテキスト容量、レイテンシ、および使用コストを推定するために、トークン数を参照してください。
活用例
入力がモデルのトークン制限に近づいている場合、繰り返しの指示を省略します。入力とコンテキスト
コンテキストウィンドウ
Context window
意味
モデルが1つのリクエストで考慮できる入力と生成された出力の最大量。
使用場面
ドキュメントを要約するか、チャンクに分割するか、または選択的に取得するかどうかを決定するために使用します。
注意
より大きなコンテキストウィンドウが、含まれるすべての詳細が正しく使用されることを保証するわけではありません。
活用例
アーカイブ全体をコンテキストウィンドウに配置するのではなく、最も関連性の高い5つのテキストを取得します。入力とコンテキスト
システム指示
System instruction
意味
モデルの役割、ルール、および応答動作を定義する、優先度の高い指示。
使用場面
多くのユーザーリクエストで共有される永続的な動作を設定するために使用します。
活用例
あなたはサポートアシスタントです。提供されたポリシーを引用し、証拠が不足している場合に言及してください。動作
モデルの重み
Model weights
意味
学習中に獲得されたパターンをエンコードする数値。
使用場面
基本モデル、ファインチューニングされたモデル、量子化モデル、またはオープンウェイトモデルを比較する際に、この用語を使用してください。
活用例
承認されたモデルの重みを、隔離された推論環境にロードします。動作
推論
Inference
意味
トレーニング済みのモデルを新しい入力に適用して、出力を生成するプロセス。
使用場面
サービス、レイテンシ、ハードウェア、またはリクエストごとのコストについて議論する場合に使用します。
活用例
スループットを向上させるために、非緊急の推論リクエストをバッチ処理します。動作
知識の更新停止時点
Knowledge cutoff
意味
モデルのトレーニング知識において、最も新しい時点。
使用場面
最近のイベント、価格、ポリシー、またはソフトウェアのバージョンについて問い合わせる前に、確認してください。
活用例
モデルの知識カットオフ以降に発生したイベントについて、ライブ検索を使用します。生成
サンプリング
Sampling
意味
モデルの確率分布から、次にどのトークンを選択するかを決定するために使用される方法。
使用場面
より決定論的または多様な出力が必要な場合は、サンプリングを調整する。
活用例
ポリシー抽出には保守的なサンプリングを、アイデア出しには広範なサンプリングを使用します。生成
温度
Temperature
意味
一般的に、トークンの選択がどれだけ集中または多様であるかを制御する、生成設定。
使用場面
繰り返し可能な構造化されたタスクでは値を下げ、探索を行う場合は注意深く値を上げてください。
注意
正確な効果とサポートされる範囲は、モデルとプロバイダーによって異なります。
活用例
請求書を固定のJSONスキーマに変換するために、低い温度を設定します。