평가 지표 Evaluation Metric
성능이나 품질의 특정 측면을 수치로 요약하는 측정 기준이다.
개념과 원리
섹션 제목: “개념과 원리”개요와 핵심 정의
섹션 제목: “개요와 핵심 정의”성능이나 품질의 특정 측면을 수치로 요약하는 측정 기준이다.
‘평가 지표’ 개념은 평가·관측성·벤치마크 영역에서 무엇을 계산하거나 통제하는지 설명하는 표제어다. 이름을 외우는 데서 멈추지 않고 입력, 변환 과정, 출력, 적용 조건을 분리해 보면 제품과 논문마다 다른 표현을 같은 원리 위에서 비교할 수 있다. 평가 분야는 모델의 품질·안전·비용을 재현 가능한 데이터와 지표로 비교하는 방법을 다룬다.
배경과 설명 범위
섹션 제목: “배경과 설명 범위”직접 대응하는 외부 백과 표제어가 뚜렷하지 않은 신생·세부 용어다. 따라서 아래 1차 자료와 상위 개념 문서를 중심으로 범위를 정하고, 제품별 용어는 일반 원리와 분리했다.
이 문서에서 다루는 범위는 안정적인 개념과 구현 원리다. 최신 모델명·가격·한도처럼 자주 바뀌는 정보는 포함하지 않으며, 실제 사용 시점에는 연결된 공식 문서와 배포 환경의 버전을 다시 확인한다.
작동 원리
섹션 제목: “작동 원리”평가 지표는 모델 결과의 특정 속성을 수치화하며 과제 단위, 집계 방식, 임계값에 따라 값이 달라진다.
모델 평가 및 벤치마크 개념을 먼저 이해하면 계산 위치와 역할을 구분하기 쉽다. 이 선행 관계를 기준으로 어느 단계에서 값이 만들어지고 다음 구성 요소로 어떻게 전달되는지 추적하면, 비슷한 용어를 기능 이름만으로 혼동하는 일을 줄일 수 있다.
구성 요소와 처리 흐름
섹션 제목: “구성 요소와 처리 흐름”실제 시스템에서는 ‘평가 지표’ 개념만 독립적으로 동작하지 않는다. 벤치마크, 정확도, 정밀도와 재현율 문서와 이어서 보면 데이터 준비, 모델 계산, 출력 제어, 운영 검증 중 어느 위치에 놓이는지 확인할 수 있다.
처리 흐름을 문서화할 때는 입력 형식, 파라미터와 기본값, 실패 조건, 출력 스키마, 관측 가능한 지표를 함께 적는다. 이렇게 해야 같은 이름을 쓰는 서로 다른 라이브러리와 서비스의 동작 차이를 재현 가능한 방식으로 비교할 수 있다.
활용과 검증
섹션 제목: “활용과 검증”활용 분야와 선택 기준
섹션 제목: “활용 분야와 선택 기준”모델 선택, 회귀 테스트, 출시 기준, 운영 모니터링에 사용한다. ‘평가 지표’ 개념을 도입할 때는 기대 효과를 품질, 지연 시간, 처리량, 메모리, 비용, 안전성 중 측정 가능한 항목으로 바꾼다. 그다음 단순한 기준선과 비교해 개선 폭과 추가 복잡도를 함께 기록한다.
선택 기준은 “널리 쓰인다”가 아니라 현재 데이터와 사용자의 실패 비용을 얼마나 줄이는가이다. 오프라인 실험, 작은 실제 트래픽, 배포 후 모니터링 순으로 증거를 쌓는 편이 안전하다.
한계와 흔한 오해
섹션 제목: “한계와 흔한 오해”하나의 지표를 최적화하면 다른 품질이 악화될 수 있어 지표 묶음과 실패 사례 분석을 함께 사용한다.
벤치마크 오염과 지표 편향, 사람 평가 불일치를 함께 기록한다. 하나의 수치나 데모를 모든 환경에 일반화하지 말고, 데이터 분포·모델 버전·하드웨어·기본 파라미터·평가 방식이 같은지 확인한다. 특히 생성 결과가 자연스럽다는 이유만으로 사실성, 공정성, 보안성까지 확보되었다고 판단하지 않는다.
관련 개념과의 구분
섹션 제목: “관련 개념과의 구분”- 벤치마크: 여러 모델이나 시스템을 비교하기 위해 고정한 과제·데이터·평가 지표의 묶음이다.
- 정확도: 전체 평가 예시 중 모델이 정답을 맞힌 비율이다.
- 정밀도와 재현율: 양성 예측의 신뢰성과 실제 양성을 찾아낸 비율을 각각 나타내는 지표다.
구체적 적용 예시
섹션 제목: “구체적 적용 예시”평가 항목마다 무엇을 맞았다고 볼지 판정 기준과 예시를 작성하고 모델 이름을 가린 상태에서 반복 측정한다. ‘평가 지표’를 적용하는 경우에는 평가 지표는 모델 결과의 특정 속성을 수치화하며 과제 단위, 집계 방식, 임계값에 따라 값이 달라진다.
점수 차이에 신뢰 구간과 표본 수를 붙이며, 출시 후 실제 사용자 분포에서도 같은 실패 유형이 나타나는지 감시한다. 이때 벤치마크, 정확도, 정밀도와 재현율 문서의 역할을 나란히 비교하면 서로 다른 단계의 설정을 한 원인처럼 해석하는 오류를 줄일 수 있다.
실무 적용과 검증 절차
섹션 제목: “실무 적용과 검증 절차”- 목적 정의: ‘평가 지표’가 해결해야 할 문제와 해결하지 않아도 되는 범위를 한 문장씩 적는다.
- 입력과 조건 확인: 모델 평가, 벤치마크의 정의와 입력 조건을 먼저 확인한다.
- 기준선 설정: 모델 선택, 회귀 테스트, 출시 기준, 운영 모니터링에 사용한다. 가장 단순한 방법과 비교할 품질·비용·지연 지표를 고정한다.
- 실패 사례 기록: 하나의 지표를 최적화하면 다른 품질이 악화될 수 있어 지표 묶음과 실패 사례 분석을 함께 사용한다.
- 운영 검증: 버전, 기본값, 데이터 시점과 평가 결과를 기록하고 변경 뒤 같은 시험을 반복한다.
- 판단 근거 보존: 성공 사례만 남기지 말고 실패 입력과 원인 가설, 수정 전후 수치를 함께 저장한다. 그래야 담당자가 바뀌거나 모델이 교체되어도 ‘평가 지표’에 대한 선택을 다시 검증할 수 있다.
- 재검토 조건 지정: 데이터 분포, 모델 버전, 비용 구조 또는 정책이 바뀌면 이전 결론을 그대로 재사용하지 않고 같은 기준으로 다시 평가한다.
학습 체크
섹션 제목: “학습 체크”- 이 개념의 입력과 출력 또는 적용 대상을 한 문장으로 구분할 수 있는가?
- 모델 평가, 벤치마크와 어떤 선후 관계가 있는지 설명할 수 있는가?
- 이 문서의 주의점을 실제 모델·데이터·API 선택에 적용할 수 있는가?
문서 관계
섹션 제목: “문서 관계”선행 개념
섹션 제목: “선행 개념”관련 문서
섹션 제목: “관련 문서”이 문서를 가리키는 문서
섹션 제목: “이 문서를 가리키는 문서”나머지 90개 문서 보기
- 과제 완료율
- 근거 충실도
- 기대 보정 오차
- 능력 벤치마크
- 답변 관련성
- 데이터 주석
- 도구 사용 평가
- 동적 벤치마크
- 로그 손실
- 루브릭 기반 심사
- 리더보드
- 리커트 척도
- 맹검 평가
- 모델 드리프트 모니터링
- 모델 텔레메트리
- 모델 평가
- 문맥 관련성
- 벤치마크
- 벤치마크 데이터셋
- 벤치마크 모음
- 벤치마크 타당도
- 벤치마크 포화
- 부트스트랩 신뢰구간
- 브라이어 점수
- 비용 모니터링
- 사용자 피드백 수집
- 생성 평가
- 승률
- 시뮬레이션 기반 평가
- 심사 모델
- 심사 모델 메타평가
- 심사 모델 보정
- 심사 모델 앙상블
- 심사 모델 합의도
- 심사 위치 편향
- 쌍대 비교
- 쌍대 LLM 심사
- 안전 벤치마크
- 에이전트 평가
- 완전 일치
- 인간 평가
- 인용 정확성
- 자기 선호 편향
- 자동 평가자
- 장황성 편향
- 재현 가능한 평가
- 전문가 평가
- 정밀도-재현율 곡선
- 정밀도와 재현율
- 정성 평가
- 정확도
- 종단간 성공률
- 주석 판정
- 주석자 편향
- 주석자 피로
- 주석자 합의도
- 지연 시간 모니터링
- 참조 기반 평가
- 참조 없는 평가
- 충실성
- 크라우드소싱 평가
- 토큰 사용량 모니터링
- 통계적 유의성
- 특이도
- 평가 루브릭
- 평가 불확실성
- 평가 표본추출
- 평가자 간 신뢰도
- 프로덕션 평가
- 프롬프트 추적
- 혼동 행렬
- 회귀 테스트형 평가
- 효과 크기
- BEIR 벤치마크
- BERTScore
- BIG-bench
- BLEU 점수
- GPQA
- HELM 벤치마크
- HumanEval
- ImageNet
- METEOR 점수
- MLPerf
- MMLU
- MTEB
- Pass@K
- RAG 평가
- ROC 곡선
- ROUGE 점수
- SWE-bench
이 문서를 포함하는 코스
섹션 제목: “이 문서를 포함하는 코스”참고와 다음 학습
섹션 제목: “참고와 다음 학습”참고 문헌
섹션 제목: “참고 문헌”- Holistic Evaluation of Language Models — paper
- Machine learning — Wikipedia: model assessments — encyclopedia
- scikit-learn: Metrics and scoring — documentation
코스에서 계속 읽기
섹션 제목: “코스에서 계속 읽기”- 신뢰할 수 있는 AI: 다음 문서 — 정확도
- LLM 평가와 관측성: 다음 문서 — 벤치마크
