다섯 살도 알 수 있게 · AI이론
불편추정량이 뭐예요?
불편추정량을, 한 번은 틀려도 여러 번 재면 평균이 진짜 무게로 맞춰지는 저울 이야기로 풀어봤어요.
트럭 전체를 다 못 재서 상자 하나만 저울에 올려요.상자 하나의 무게를 트럭 전체 평균으로 믿어도 될까요?
고장난 저울은 항상 같은 쪽으로 틀려요.몇 번을 재도 항상 100g씩 더 무겁게 나와요.
불편추정량은 여러 번 재면 평균적으로 진짜 값과 같아지는 저울이에요.세 번의 결과가 다 다르지만, 평균은 진짜 무게 쪽을 가리켜요.
여러 표본 평균 내기치우침은 여러 번의 평균을 봐야 드러나요
치우침 없는 공식 쓰기분산은 n이 아니라 n-1로 나눠요
무작위로 뽑기한쪽 상자만 골라 재면 안 돼요
한 번으로 판단 안 하기한 번은 틀려도 괜찮아요
표본 분산은 나누는 숫자 하나(n 또는 n-1)로 치우침이 생길 수 있어요.표본 분산은 n-1로 나눠야 치우치지 않아요(자유도 보정).
치우치지 않아도 흔들림은 클 수 있어요.불편성은 치우침 없음만 말할 뿐, 흔들림까지 보장하진 않아요.
한 줄로
불편추정량 = 한 번의 측정은 틀릴 수 있어도, 여러 표본으로 반복하면 평균이 진짜 값과 같아지는 추정 방법.
통계학에서 추정량 θ̂의 기댓값 E[θ̂]이 모수(참값) θ와 같으면 불편추정량이라 해요. 표본평균은 모평균의 불편추정량이지만, 표본분산은 n으로 나누면 치우치므로 n-1로 나눠(베셀 보정) 불편추정량을 만들어요. 불편성은 '치우침 없음'만 보장하고 분산(효율성)은 별개라, 실무에서는 약간의 편향을 감수하고 분산을 줄이는 추정량(편향-분산 트레이드오프)을 쓰기도 해요.
어른들은 이렇게 불러요
- 추정량
Estimator - 표본으로 참값을 가늠하는 저울. 공식 하나하나가 추정량이에요.
- 모수
Parameter - 트럭 전체의 진짜 평균 무게. 우리가 영영 직접 못 보는 참값이에요.
- 표본평균
Sample Mean - 상자 하나의 평균 무게. 모평균의 대표적인 불편추정량이에요.
- 자유도 보정(n-1)
Degrees-of-Freedom Correction - 나누는 숫자를 하나 줄이는 보정. 표본분산에서 치우침을 없애요.
- 편향-분산 트레이드오프
Bias-Variance Tradeoff - 안 치우침과 안 흔들림 사이의 줄다리기. 치우침 없음과 흔들림 없음을 둘 다 완벽히 가지기는 어려워요.
- 회귀모형 가정
Regression Assumptions - 저울이 똑바로 걸리는 조건들. 불편성에는 이 중 선형성·외생성 같은 일부 가정이 필요해요. → 자세히 보기
- 교차검증
Cross Validation - 조를 나눠 번갈아 시험해 보는 일. 모형 성능을 반복해서 가늠한다는 점이 비슷해요. → 자세히 보기
- 시계열분석(AR/MA)
Time-Series Analysis (AR/MA) - 지난 며칠 값으로 내일을 가늠하는 저울. 예측값을 만드는 저울도 불편성을 따져요. → 자세히 보기
다음 이야기
저울을 똑바로 걸기 위한 네 가지 조건 →