멤버십 추론이 뭐예요?
멤버십 추론을, 주방장이 어떤 주문은 눈 감고도 척척 만들고 어떤 주문은 머뭇거리는 걸 보고 '이 손님, 연습 때 왔었구나' 알아내는 이야기로 풀어봤어요.
몰래 쪽지 손님이 주문서 두 장을 내밀어요 — 하나는 진짜 의심, 하나는 비교용.둘 다 평범한 주문처럼 보여요. 다른 건 주방장이 둘에 반응하는 '느낌'이에요.
테스트당하는 걸 모른 채, 평범하게 반응한 것 자체가 신호가 돼요.주방장을 속이려는 게 아니에요. 그냥 보통처럼 반응하게 두고, 그 반응의 속도와 자신감만 지켜봐요.
멤버십 추론은 눈 감고도 만드는 요리와 머뭇거리는 요리를 구별하는 일이에요.레시피 내용 자체는 몰라도 돼요. '이 주문, 연습 때 본 적 있나요?'라는 예/아니오만 궁금한 거예요.
레시피 자체는 안 봐도, 반응의 속도·정확도·자신감만으로 판정할 수 있어요.세 가지 신호를 같이 보면 더 정확해요. 하나만 보면 틀리기 쉬워요 — 가끔은 안 외운 것도 운 좋게 맞힐 수 있으니까요.
'왔었다'는 사실 자체가 비밀일 수 있어요. 재료까지 알고 싶으면 모델 인버전이 필요해요.이름·전화번호 같은 명부가 아니라, "이 사람의 기록이 학습에 쓰였다" 그 자체가 민감할 수 있어요(예: 어떤 병원 손님 명부였는지). 재료 자체를 거꾸로 그려내는 건 모델 인버전의 몫이에요.
멤버십 추론 = 어떤 주문에는 주방장이 눈 감고도 척척, 어떤 주문에는 머뭇머뭇 반응하는 걸 보고, 그 손님이 연습 때 왔었는지만 알아내는 일. 레시피 내용은 몰라도 돼요.
Membership Inference. 특정 데이터 샘플이 모델의 학습 데이터셋에 포함되었는지를, 모델의 출력(확신 점수·손실값·응답의 일관성)만으로 추론하는 공격이에요. 모델이 학습 데이터에 과적합(overfitting)할수록 학습한 샘플과 안 한 샘플에 대한 반응 차이가 커져 구별이 쉬워져요. 데이터 자체는 재구성하지 않고 참여 여부만 알아낸다는 점에서 모델 인버전과 다르지만, 의료·금융 기록처럼 '참여 사실' 자체가 민감한 경우 심각한 프라이버시 위험이 돼요.
어른들은 이렇게 불러요
- 멤버십 추론
Membership Inference - 이 손님이 연습 때 왔었는지만 알아내는 일. 레시피 내용은 안 봐도 돼요.
- 모델 인버전
Model Inversion - 접시만 보고 원래 재료를 거꾸로 그려내는 일. 왔었는지가 아니라 재료 자체가 궁금할 때. → 접시 더미에서 되살린 얼굴
- 메모리제이션
Memorization - 레시피북 한 줄을 그대로 베껴 내놓는 버릇. 잘 외울수록 왔었는지 신호도 더 뚜렷해져요. → 외운 걸 그대로 내놓기
- 과적합
Overfitting - 연습한 주문만 유난히 완벽하게 외우는 버릇. 연습과 실전의 반응 차이가 클수록 멤버십 추론이 더 잘 통해요.
- 확신 점수
Confidence Score - 얼마나 자신 있게 답했는지를 보여주는 숫자. 이 숫자가 그대로 공개되면 신호가 더 선명해져요.
- 레드팀
Red Team - 출시 전에 미리 떠보기 시험을 해 보는 사람들. 이런 추론 공격이 통하는지 먼저 확인해요. → 보안 마을의 레드팀
- 속도 제한
Rate Limiting - 같은 손님의 반복 떠보기를 느리게 또는 막기. 반복이 쌓여야 판정이 정확해지는 공격이라 효과가 커요. → 놀이공원의 입장 제한
- AI 프라이버시
AI Privacy - 참여했다는 사실 자체를 지키는 약속. 명부 내용뿐 아니라 썼는지 자체도 지켜야 할 비밀이에요. → 앵무새에게 준 비밀 콩