Feed Forward Network
Feed Forward Network
Feed Forward Network(Feed Forward Network)은 Transformer의 전체 흐름에서 중요한 단계입니다. Attention과 FFN을 Residual/Normalization으로 연결해 Token 표현을 반복적으로 갱신하는 구조 안에서 이 개념이 어떤 입력을 받고 무엇을 출력하는지 연결해서 이해합니다.
WHY SHOULD I KNOW THIS?
왜 알아야 하나?
Transformer을 이름만 암기하지 않고 실제 데이터가 변환되는 과정을 이해하기 위한 핵심 연결점입니다. 이후 Transformer·LLM 학습에서 이 흐름이 반복해서 사용됩니다.
WHERE IS IT USED?
어디에 사용되나?
GPTBERT 계열번역LLM멀티모달
TRANSFORMER FLOW
01Token→
02Embedding→
03Attention→
04Add & Norm→
05FFN→
06Output
01TOKEN→
02EMBED + POS→
03ATTENTION→
04ADD & NORM→
05FFN→
06ADD & NORM→
07LOGITS
TRANSFORMER DATA FLOW
현재: ATTENTION
Token 표현이 Attention과 FFN을 통과하면서 문맥화되는 전체 경로를 따라가세요.
Token 표현이 Attention과 FFN을 통과하면서 문맥화되는 전체 경로를 따라가세요.
INTERACTIVE CONCEPT LABTRANSFORMER SIGNAL
CURRENT STAGE1 / 6 · Tokens
Feed Forward Network
노드를 클릭하거나 PLAY FLOW를 눌러 정보가 어떻게 이동하는지 단계별로 확인하세요. 슬라이더는 시각적 영향도를 조절합니다.
이 Topic에서 알아야 할 핵심
✓Feed Forward Network
✓Feed Forward Network
✓Token → Embedding+Position → Attention → FFN → Output
✓앞 단계의 출력이 다음 단계의 입력으로 연결됨
이해 확인 질문
Q1Feed Forward Network은 전체 Transformer 흐름의 어느 위치에 있는가?
Q2Feed Forward Network의 입력과 출력은 무엇인가?
Q3이 개념이 빠지면 다음 단계에서 어떤 문제가 생기는가?
CATEGORY
TRANSFORMERAttention을 중심으로 Transformer 블록과 전체 데이터 흐름을 조립합니다.
CURRENT PATH
12.08 Feed Forward Network이 Topic의 위치와 앞뒤 순서를 항상 Curriculum 기준으로 유지합니다.