Sigmoid / Tanh / ReLU
대표 활성화 함수
Sigmoid / Tanh / ReLU(대표 활성화 함수)은 신경망이 입력을 내부 표현으로 바꾸는 과정의 핵심 구성요소입니다. 개별 계산이 Layer와 Network로 확장되는 흐름 속에서 이해합니다.
WHY SHOULD I KNOW THIS?
왜 알아야 하나?
딥러닝의 Forward 계산을 구성하는 핵심 요소입니다. 이 구조를 이해해야 Loss와 Backpropagation에서 어떤 값이 왜 바뀌는지 추적할 수 있습니다.
WHERE IS IT USED?
어디에 사용되나?
Neural NetworkForward PropagationDeep Learning후속 학습 구조
DEEP LEARNING
NEURAL SIGNAL
z = xw+b = 1.06
ReLU(z) = 1.06
신호가 뉴런을 통과하며 어떻게 변하는지 확인하세요.
ReLU(z) = 1.06
신호가 뉴런을 통과하며 어떻게 변하는지 확인하세요.
INTERACTIVE CONCEPT LABNEURAL SIGNAL LAB
CURRENT STAGE1 / 6 · Input
Sigmoid / Tanh / ReLU
노드를 클릭하거나 PLAY FLOW를 눌러 정보가 어떻게 이동하는지 단계별로 확인하세요. 슬라이더는 시각적 영향도를 조절합니다.
이 Topic에서 알아야 할 핵심
✓Sigmoid / Tanh / ReLU
✓대표 활성화 함수
✓입력 → 변환 → 출력
✓Neuron과 Layer의 연결
이해 확인 질문
Q1대표 활성화 함수은 신경망의 어느 위치에서 동작하는가?
Q2Sigmoid / Tanh / ReLU의 입력과 출력은 무엇인가?
Q3값이나 구조를 바꾸면 Forward 결과는 어떻게 달라지는가?
CATEGORY
DEEP LEARNING FOUNDATION뉴런에서 네트워크까지 딥러닝의 계산 구조를 단계적으로 이해합니다.
CURRENT PATH
06.09 Sigmoid / Tanh / ReLU이 Topic의 위치와 앞뒤 순서를 항상 Curriculum 기준으로 유지합니다.