다섯 살도 알 수 있게 · AI이론
앙상블(Ensemble) 기법이 뭐예요?
앙상블 기법을, 조작원 한 명의 판단을 못 믿어 여러 명에게 묻고 다수결로 최종 결정하는 검사장 이야기로 풀어봤어요.
조작원 한 명의 판단만 믿기엔 불안해요.한 명(모델)은 가끔 틀리는데, 그 판단만 믿으면 오류가 그대로 결과가 돼요.
같은 작물을 세 조작원에게 물어보니 답이 갈려요.같은 작물인데 세 사람 판정이 갈려요 — 누굴 믿죠?
앙상블은 여러 조작원의 판정을 모아 다수결/평균으로 최종 결정해요.한 명보다 여럿의 평균이 더 안정적일 때가 많아요.
배깅 — 각자 다르게 훈련작물을 무작위로 다르게 뽑아 맡겨요
부스팅 — 순서대로 보완앞사람이 틀린 작물을 다음 사람이 집중해서 봐요
보팅 — 다수결 결정가장 많이 나온 답을 최종으로
다양성 — 서로 다르게 섞기비슷한 모델만 모으면 같은 실수를 해서 효과가 작아요
여러 모델을 섞는 방식에도 배깅·부스팅 등 여러 가지가 있어요.배깅은 여러 모델을 동시에 따로 훈련하고, 부스팅은 앞 모델의 실수를 다음 모델이 순서대로 보완해요.
앙상블을 쓰면 모델 하나일 때보다 판정이 느려지고, 판정 이유를 설명하기 어려워져요.앙상블은 모델 하나보다 흔히 더 안정적이지만, 더 느리고 설명하기도 더 어려워요.
한 줄로
앙상블 기법 = 여러 모델(조작원)의 판정을 모아 다수결이나 평균으로 최종 결정하면, 한 모델보다 더 안정적이라는 아이디어.
앙상블은 여러 학습기(흔히 약한 학습기)를 결합해 더 강한 예측을 만드는 기법이에요. 배깅(Bagging)은 부트스트랩 샘플마다 독립적으로 모델을 학습시켜 평균/투표하고(예: 랜덤 포레스트), 부스팅(Boosting)은 이전 모델이 틀린 샘플에 가중치를 더하거나(AdaBoost) 남은 오차를 다음 모델이 배우게 해(Gradient Boosting) 순차적으로 보완해요. 분산을 줄이거나(배깅) 편향을 줄이는(부스팅) 효과가 있지만, 계산 비용이 늘고 개별 모델보다 설명력이 떨어져요.
어른들은 이렇게 불러요
- 배깅(Bagging)
Bagging - 작물을 중복 허용으로 무작위로 뽑아 조작원마다 다르게 맡기는 것. 랜덤 포레스트가 대표적인 배깅 기법이에요.
- 부스팅(Boosting)
Boosting - 앞사람이 틀린 작물을 다음 사람이 집중해서 보는 것. AdaBoost·Gradient Boosting이 대표적이에요.
- 보팅(Voting)
Voting - 가장 많이 나온 답을 최종으로 뽑는 것. 다수결 방식과 가중 평균 방식이 있어요.
- 랜덤 포레스트
Random Forest - 여러 선별기를 동시에 키우는 대표 배깅 기법. 여러 결정나무를 모아 만들어요.
- 편향-분산 트레이드오프
Bias-Variance Tradeoff - 안 치우침과 안 흔들림 사이의 줄다리기. 배깅은 분산을, 부스팅은 편향을 주로 줄여요.
- 교차검증
Cross Validation - 조를 나눠 번갈아 시험해 보는 일. 앙상블 성능도 이걸로 확인해야 믿을 만해요. → 자세히 보기
- AI 신뢰성
AI Trustworthiness - 정확도만으론 못 받는 품질인증 등급판. 설명가능성 항목에서 앙상블은 불리할 수 있어요. → 자세히 보기
- 강화학습
Reinforcement Learning - 정답표 없이 점수로 배우는 신입 조작원. 앙상블과는 또 다른, 보상 기반 학습 방식이에요. → 자세히 보기
다음 이야기
오판이 줄어드는 쪽으로 다이얼 돌리기 →