다섯 살도 알 수 있게 · AI이론
교차검증이 뭐예요?
교차검증을, 외운 문제로 본 100점을 의심하고 조를 나눠 번갈아 '처음 보는 시험지'로 다시 시험하는 검수반장 이야기로 풀어봤어요.
선별기가 외운 문제로 시험 봐서 100점이 나왔어요.이 시험 문제는 선별기가 훈련 때 본 작물 그대로예요.
검수반장이 외운 문제로 본 시험은 진짜 시험이 아니라고 지적해요.훈련에 쓴 데이터로 평가하면 성적이 부풀려져요.
교차검증은 조를 나눠 한 조씩 번갈아 처음 보는 시험지로 써요.5번 돌아가며 다섯 조가 전부 한 번씩 시험지가 돼요.
조 나누기데이터를 k개 조로 쪼개요
한 조는 숨겨두기그 조는 그 회차 훈련에 안 써요
돌아가며 시험모든 조가 한 번씩 시험지가 돼요
평균 성적으로 판단한 번이 아니라 전체 평균을 봐요
다섯 번 돌아가며 본 시험 점수의 평균을 내요.한 번의 운 좋은 점수가 아니라, 다섯 번의 평균으로 실력을 가늠해요.
교차검증은 계산이 더 들고, 시간 순서가 있는 데이터엔 조심해야 해요.교차검증은 한 번 시험보다 평가를 더 믿을 만하게 하지만, 훈련을 여러 번 하는 비용이 들어요.
한 줄로
교차검증 = 데이터를 여러 조로 나눠, 한 조씩 번갈아 처음 보는 시험지로 쓰고 나머지로 훈련한 뒤, 평균 성적으로 진짜 실력을 가늠하는 방법.
k-겹 교차검증(k-fold cross validation)은 데이터를 k개 폴드로 나눠, 한 폴드씩 돌아가며 검증셋으로 쓰고 나머지 k-1개로 학습한 뒤 k번의 성능을 평균 내는 방법이에요. 훈련 데이터로만 평가해 생기는 과적합 착시(낙관적 평가)를 막아줘요. 계산 비용이 k배로 늘고, 시간 순서가 있는 데이터(시계열)에는 미래 데이터가 과거 예측에 섞이지 않도록 시간 순서를 지키는 분할(time-series split)을 따로 써야 해요.
어른들은 이렇게 불러요
- k-겹 교차검증
k-fold Cross Validation - 조를 k개로 나누는 가장 흔한 방식. 보통 k=5나 k=10을 많이 써요.
- 검증셋
Validation Set - 이번 회차의 시험지 조. 그 회차 훈련에는 쓰지 않는 조예요.
- 과적합
Overfitting - 외운 문제만 잘 푸는 상태. 교차검증이 바로 이걸 잡아내는 도구예요.
- 홀드아웃 검증
Holdout Validation - 딱 한 번만 나눠서 시험하는 간단한 방식. 교차검증보다 빠르지만 덜 안정적이에요.
- 시계열 분할
Time-Series Split - 수확 날짜 순서를 지키는 특별한 나누기. 일반 교차검증을 그대로 쓰면 안 되는 대표 사례예요. → 자세히 보기
- 앙상블 기법
Ensemble Methods - 여러 조작원이 함께 판정하는 방법. 교차검증과 짝을 이뤄 자주 함께 쓰여요. → 자세히 보기
- 불편추정량
Unbiased Estimator - 치우치지 않은 저울눈금. 교차검증 평균 점수도 일종의 추정량이에요. → 자세히 보기
- AI 신뢰성
AI Trustworthiness - 정확도만으론 못 받는 품질인증 등급판. 부풀려진 성적으로는 이 인증을 받을 수 없어요. → 자세히 보기
다음 이야기
세 조작원의 의견을 모아 결정하는 검사장 →