모델
생성형 AI
Generative AI
뜻
학습한 패턴을 바탕으로 텍스트, 이미지, 음성, 코드 등의 새 콘텐츠를 만드는 AI입니다.
언제 쓰나
콘텐츠를 만드는 시스템을 분류·예측 시스템과 구분할 때 사용합니다.
활용 예시
Use generative AI to draft three product descriptions, then review them for factual accuracy.Generative AI Engineering
생성형 AI·LLM 기본 용어
생성형 AI와 대규모 언어 모델을 사용할 때 접하는 모델, 입력, 문맥, 생성, 운영 관련 핵심 용어를 설명합니다.
12 개 용어
모델
파운데이션 모델
Foundation model
뜻
광범위한 데이터로 학습되어 여러 후속 작업에 적용할 수 있는 기반 모델입니다.
언제 쓰나
챗봇, 에이전트, 전문 애플리케이션의 기반 모델을 설명할 때 사용합니다.
활용 예시
Select a foundation model, then add retrieval and task-specific instructions for customer support.모델
대규모 언어 모델(LLM)
Large language model (LLM)
뜻
대규모 텍스트로 학습해 언어의 문맥을 처리하고 생성하는 모델입니다.
언제 쓰나
문장 생성, 요약, 정보 추출, 번역, 대화 작업을 설명할 때 사용합니다.
활용 예시
Ask the LLM to summarize the meeting transcript into decisions, owners, and deadlines.모델
멀티모달 모델
Multimodal model
뜻
텍스트와 이미지처럼 둘 이상의 데이터 유형을 처리하거나 생성하는 모델입니다.
언제 쓰나
스크린샷, 문서, 음성, 영상, 텍스트를 함께 다루는 작업에 사용합니다.
활용 예시
Provide a chart image and ask the multimodal model to explain the visible trend.입력·문맥
토큰
Token
뜻
언어 모델이 처리하는 텍스트 단위로, 단어 전체나 일부 또는 문장부호일 수 있습니다.
언제 쓰나
컨텍스트 용량, 처리 시간, 사용 비용을 가늠할 때 토큰 수를 사용합니다.
활용 예시
Trim repeated instructions when the input approaches the model's token limit.입력·문맥
컨텍스트 윈도우
Context window
뜻
모델이 한 번의 요청에서 참고할 수 있는 입력과 생성 출력의 최대 범위입니다.
언제 쓰나
문서를 요약·분할하거나 필요한 부분만 검색할지 결정할 때 사용합니다.
주의
컨텍스트가 크다고 포함된 모든 세부 정보가 정확히 활용되는 것은 아닙니다.
활용 예시
Retrieve the five most relevant passages instead of placing the entire archive in the context window.입력·문맥
시스템 지시문
System instruction
뜻
모델의 역할, 규칙, 응답 방식을 정의하는 우선순위가 높은 지시문입니다.
언제 쓰나
여러 사용자 요청에 공통으로 적용할 행동 원칙을 정할 때 사용합니다.
활용 예시
You are a support assistant. Cite the supplied policy and say when evidence is missing.운영
모델 가중치
Model weights
뜻
학습 과정에서 얻은 패턴을 수치로 담고 있는 모델 내부 값입니다.
언제 쓰나
기본 모델, 미세 조정 모델, 양자화 모델, 공개 가중치 모델을 비교할 때 사용합니다.
활용 예시
Load the approved model weights in the isolated inference environment.운영
추론 실행
Inference
뜻
학습이 끝난 모델에 새 입력을 넣어 결과를 생성하는 실행 과정입니다.
언제 쓰나
서비스 제공, 지연 시간, 하드웨어, 요청당 비용을 설명할 때 사용합니다.
활용 예시
Batch non-urgent inference requests to improve throughput.운영
지식 기준일
Knowledge cutoff
뜻
모델 학습 지식에 대체로 반영된 마지막 시점을 뜻합니다.
언제 쓰나
최신 사건, 가격, 정책, 소프트웨어 버전을 질문하기 전에 확인합니다.
활용 예시
Use live search for events that occurred after the model's knowledge cutoff.생성
샘플링
Sampling
뜻
모델의 확률 분포에서 다음 토큰을 선택하는 방식입니다.
언제 쓰나
더 일관되거나 더 다양한 결과가 필요할 때 샘플링 설정을 조정합니다.
활용 예시
Use conservative sampling for policy extraction and broader sampling for ideation.생성
온도
Temperature
뜻
일반적으로 토큰 선택의 집중도와 다양성을 조절하는 생성 설정입니다.
언제 쓰나
반복 가능한 구조화 작업에는 낮추고, 아이디어 탐색에는 신중히 높입니다.
주의
정확한 효과와 지원 범위는 모델과 제공자마다 다릅니다.
활용 예시
Set a low temperature for converting invoices into a fixed JSON schema.