다섯 살도 알 수 있게 · AI이론
로지스틱 회귀분석이 뭐예요?
로지스틱 회귀분석을, 저울 눈금을 S자 곡선에 넣어 합격 확률로 바꾸는 이야기로 풀어봤어요.
선별기는 합격 아니면 불합격, 둘 중 하나로만 답해야 해요.저울 눈금은 숫자인데, 그 자체로는 답이 아니에요.
선형 점수를 그대로 확률처럼 쓰면 말이 안 돼요.확률은 0~1(0~100%) 사이여야 하는데, 점수는 그 범위를 벗어나요.
로지스틱 회귀는 저울 눈금을 S자 곡선에 넣어 합격 확률로 바꿔요.S자 곡선을 거치면 점수가 아무리 크거나 작아도, 결과는 항상 0과 1 사이예요.
점수 매기기특징에 가중치를 곱해 더한 점수를 만들어요
S자로 눌러주기점수를 0~1 사이로 눌러요
기준점 넘으면 합격보통 0.5를 기준으로 삼아요
경계선 긋기합격과 불합격을 가르는 선이에요
선형 회귀와 로지스틱 회귀는 둘 다 저울을 쓰지만, 묻는 질문이 달라요.선형 회귀는 '얼마나'를 묻고, 로지스틱 회귀는 '어느 쪽인지'를 물어요.
로지스틱 회귀는 점수를 S자로 누르긴 해도, 속은 직선 하나로 가르는 모델이에요.더 복잡한 경계가 필요하면, 혼동행렬로 성능을 확인하며 다른 방법을 찾아야 해요.
한 줄로
로지스틱 회귀분석 = 저울 눈금(점수)을 S자 곡선에 넣어, 0~1 사이 합격 확률로 바꾸는 방법.
로지스틱 회귀분석(Logistic Regression)은 입력 특징의 선형 결합(가중합)을 시그모이드 함수에 통과시켜, 결과를 0과 1 사이의 확률로 바꾸는 지도학습 분류 방법이에요. 이 확률이 임계값(보통 0.5)을 넘으면 양성 클래스로, 아니면 음성 클래스로 분류해요. 이름에 '회귀'가 들어가지만 실제로는 분류 문제에 쓰이고, 결정 경계가 특징 공간에서 직선(초평면)이라, 특징을 변환하지 않으면 복잡하게 휜 경계를 가진 데이터에는 한계가 있어요.
어른들은 이렇게 불러요
- 로지스틱 회귀
Logistic regression - 저울 눈금을 S자 곡선에 넣어 확률로 바꾸는 방법. 이름과 달리 분류 문제에 쓰여요.
- 시그모이드 함수
Sigmoid function - 아무 숫자나 0~1 사이로 눌러주는 S자 곡선. 로지스틱 회귀의 핵심 장치예요.
- 선형 회귀
Linear regression - 저울 눈금 자체(연속된 숫자)를 예측하는 방법. 로지스틱 회귀가 빌려 쓰는 점수 매기기 방식의 원래 주인이에요.
- 결정 경계
Decision boundary - 합격과 불합격을 가르는 선. 로지스틱 회귀에서는 특징을 변환하지 않으면 이 경계가 직선(또는 평면)이에요.
- 임계값
Threshold - 확률을 합격·불합격으로 바꾸는 기준점. 보통 0.5를 쓰지만, 상황에 따라 옮길 수 있어요.
- 오즈비
Odds ratio - 오즈(합격 확률÷불합격 확률)가 특징 값 변화에 따라 몇 배 달라지는지 나타내는 비. 로지스틱 회귀의 계수를 해석할 때 쓰는 말이에요.
- 혼동행렬
Confusion matrix - 합격·불합격 판정을 네 칸으로 나눈 기록부. 로지스틱 회귀의 성능도 이걸로 확인해요. → 네 칸으로 나눈 도장 기록부
- 군집분석
Clustering - 정답 라벨 없이 스스로 무리를 찾는 방법. 로지스틱 회귀와 정반대 출발점을 가진 이웃 방법이에요. → 이름표 없이 비슷한 것끼리 모으기
다음 이야기
무리에서 유난히 튀는 작물 →