Autoregressive Modeling
자기회귀 모델링
Autoregressive Modeling(자기회귀 모델링)은 언어 모델에서 중요한 개념입니다. 문맥에서 다음/가려진 Token의 확률을 모델링하는 원리 안에서 이 개념이 어떤 입력을 받고 어떤 결과를 만드는지 연결해 이해합니다.
WHY SHOULD I KNOW THIS?
왜 알아야 하나?
언어 모델을 용어 암기가 아니라 실제 데이터 흐름으로 이해하기 위해 필요합니다. 앞선 Token·Transformer 개념과 이후 RAG·Agent 시스템을 연결하는 기반이 됩니다.
WHERE IS IT USED?
어디에 사용되나?
언어 생성이해 모델
13.04 CONCEPT VIEW
Autoregressive Modeling
이 Topic은 이후 실제 계산/시각화 학습 시뮬레이션으로 확장됩니다.
Neural networks can learning
learning40.2%
model24.4%
AI17.2%
data10.9%
system7.3%
NEXT TOKEN SAMPLER
logits ÷ T → Softmax → Top-K → Sample
Temperature가 높을수록 분포가 평평해지고 선택 다양성이 커집니다. 이 Lab은 생성 원리를 설명하는 결정론적 시각화입니다.
Temperature가 높을수록 분포가 평평해지고 선택 다양성이 커집니다. 이 Lab은 생성 원리를 설명하는 결정론적 시각화입니다.
INTERACTIVE CONCEPT LABLANGUAGE MODEL FLOW
CURRENT STAGE1 / 6 · Context
Autoregressive Modeling
노드를 클릭하거나 PLAY FLOW를 눌러 정보가 어떻게 이동하는지 단계별로 확인하세요. 슬라이더는 시각적 영향도를 조절합니다.
이 Topic에서 알아야 할 핵심
✓Autoregressive Modeling
✓자기회귀 모델링
✓입력 → 변환 → 출력
✓앞뒤 Topic과의 연결
이해 확인 질문
Q1Autoregressive Modeling은 전체 언어 모델 흐름에서 어디에 위치하는가?
Q2Autoregressive Modeling의 입력과 출력은 무엇인가?
Q3자기회귀 모델링가 실제 AI 시스템에서 사용되는 예를 설명할 수 있는가?
CATEGORY
LANGUAGE MODEL언어 모델의 역사와 Encoder-only, Decoder-only, Encoder-Decoder 구조 차이를 이해합니다.
CURRENT PATH
13.04 Autoregressive Modeling이 Topic의 위치와 앞뒤 순서를 항상 Curriculum 기준으로 유지합니다.