회귀모형 가정이 뭐예요?
회귀모형 가정을, 무게로 가격을 예측하는 저울을 똑바로 걸기 위해 지켜야 할 네 가지 조건 이야기로 풀어봤어요.
훈련 교사가 무게로 가격을 예측하는 저울을 걸었어요.이 저울(회귀모형)의 예측을 아무 때나 믿어도 될까요?
저울(회귀모형)의 예측 오차가 무거운 구간에서 유난히 크게 흔들려요.무게 구간마다 오차의 크기가 달라요 — 저울을 걸 때 지켜야 할 조건이 있어요.
회귀모형 가정은 저울이 똑바로 걸리기 위한 네 가지 조건이에요.네 조건이 다 지켜져야 예측과 신뢰구간을 믿을 수 있어요.
네 조건이 깨지면 데이터와 오차에 이런 모습이 나타나요.휘어진 관계, 엮인 오차, 깔때기 모양, 한쪽으로 몰린 오차 — 전부 가정이 깨졌다는 신호예요.
가정이 깨져도 예측 숫자는 나오지만, 그 숫자를 그대로 믿으면 안 돼요.오차범위·검정은 가정이 지켜졌을 때만 믿을 수 있어요.
회귀모형 가정 = 예측 저울을 믿으려면 지켜야 할 선형성·독립성·등분산성·정규성 네 조건. 깨져도 숫자는 나오지만, 그대로 믿으면 안 돼요.
선형회귀가 유효하려면 ① 선형성(독립변수와 종속변수의 관계가 선형), ② 오차의 독립성(자기상관 없음), ③ 등분산성(오차의 분산이 일정, homoscedasticity), ④ 오차의 정규성을 만족해야 해요. 가정이 깨져도 계수 추정치는 계산되지만, 선형성이 깨지면 계수 자체가 치우칠 수 있고, 독립성·등분산성이 깨지면 표준오차가 왜곡돼 신뢰구간·유의성 검정(p-value)도 잘못된 결론으로 이어질 수 있어요. 정규성이 깨지면 표본이 작을 때 신뢰구간과 p-value를 믿기 어렵고, 표본이 크면 그 영향이 줄어들어요. 잔차 플롯으로 점검하고, 깨졌다면 변수 변환·강건 표준오차·다른 모형을 고려해요.
어른들은 이렇게 불러요
- 선형성
Linearity - 관계가 곡선이 아니라 직선이라는 전제. 깨지면 비선형 모형이나 변수 변환을 써요.
- 등분산성
Homoscedasticity - 흔들림 크기가 구간마다 같다는 전제. 깨지면 깔때기 모양 잔차가 나타나요.
- 자기상관
Autocorrelation - 어제 오차가 오늘 오차와 엮이는 것. 시계열 데이터에서 독립성 가정이 깨지는 대표 사례예요. → 자세히 보기
- 잔차
Residual - 저울이 예측한 값과 실제 값의 차이. 잔차 패턴을 보면 가정이 깨졌는지 알 수 있어요.
- 다중공선성
Multicollinearity - 두 변수가 사실상 같은 말을 하는 것. 회귀 계수 해석을 어렵게 만드는 또 다른 문제예요.
- 불편추정량
Unbiased Estimator - 치우치지 않은 저울눈금. 선형성·외생성 같은 일부 가정이 불편성을 받쳐요(정규성·등분산은 불편성의 조건이 아니에요). → 자세히 보기
- 앙상블 기법
Ensemble Methods - 여러 조작원이 함께 판정하는 방법. 가정이 깨진 경우 대안으로 쓰이기도 해요. → 자세히 보기
- 교차검증
Cross Validation - 조를 나눠 번갈아 시험해 보는 일. 가정이 깨졌는지와 별개로, 모형 성능은 이걸로 확인해요. → 자세히 보기