Evaluation Layer
평가 계층
Evaluation Layer는 모델·RAG·Agent 결과를 품질, 안전, 근거성, 작업 성공률 같은 기준으로 지속 검증합니다. 흐름은 Output/Trace → Evaluator → Metrics → Release decision 로 추적할 수 있습니다.
WHY SHOULD I KNOW THIS?
왜 알아야 하나?
현대 AI 서비스는 모델 하나가 아니라 Gateway, Retrieval, State, Tool, Evaluation, Observability, Security가 결합된 시스템이므로 각 계층의 책임과 경계를 이해해야 합니다.
WHERE IS IT USED?
어디에 사용되나?
Production AI ArchitectureRAG/Agent PlatformCloud AISystem Design
26.13 CONCEPT VIEW
Offline Eval
이 Topic은 이후 실제 계산/시각화 학습 시뮬레이션으로 확장됩니다.
MODERN AI APPLICATIONRAG · route → Large Model
CLIENT→
AI GATEWAY→
RETRIEVER→
VECTOR DB→
RERANKER→
Large Model→
RESPONSE
SECURITY BOUNDARY ✓ · EVALUATION + OBSERVABILITY ON
AI ARCHITECTURE COMPOSER
모델 선택만으로 아키텍처가 끝나지 않습니다. 요청 경로에 검색·상태·Tool·정책·평가·관측 계층을 조합하고 각 경계의 책임을 분리합니다.
INTERACTIVE CONCEPT LABMODERN AI STACK
CURRENT STAGE1 / 6 · App
Offline Eval
노드를 클릭하거나 PLAY FLOW를 눌러 정보가 어떻게 이동하는지 단계별로 확인하세요. 슬라이더는 시각적 영향도를 조절합니다.
이 Topic에서 알아야 할 핵심
✓Offline Eval
✓Online Eval
✓Metrics
✓Regression
✓Output/Trace → Evaluator → Metrics → Release decision
이해 확인 질문
Q1Evaluation Layer의 핵심 입력과 출력은 무엇인가?
Q2평가 계층에서 가장 중요한 trade-off 또는 실패 조건은 무엇인가?
Q3기존에 학습한 개념과 Evaluation Layer은 어떻게 연결되는가?
CATEGORY
MODERN AI ARCHITECTURE현대 AI 시스템에서 자주 결합되는 모델·검색·Agent·멀티모달 패턴을 한눈에 연결합니다.
CURRENT PATH
26.13 Evaluation Layer이 Topic의 위치와 앞뒤 순서를 항상 Curriculum 기준으로 유지합니다.