다섯 살도 알 수 있게 · AI 보안

백도어가 뭐예요?

백도어를, 레시피북 맨 뒤에 몰래 끼워진 암호 주문어 — 그 말이 나오면 주방장이 다른 동작을 하는 이야기로 풀어봤어요.

평소엔 완전히 평범해 보여요.그런데 레시피북 맨 뒤엔 아무도 모르는 쪽지가 있어요.

레시피북 안엔 아무도 모르는 규칙이 숨어 있어요.원래부터 있던 것처럼 보여서 눈치채기 어려워요.

백도어는 암호 주문어가 나오면 숨겨둔 동작을 하게 만든 것이에요.겉으로는 평범한 주문서예요, 결과만 달라요.

평소엔 완전히 평범해요그래서 알아채기가 특히 어려워요

의심스러운 말 미리 테스트하기트리거를 미리 찾아내 봐요

출처 분명한 레시피북만 쓰기낯선 곳에서 온 책은 더 의심해요

이상한 동작 패턴 감시하기평소와 다른 순간을 잡아내요

방아쇠가 당겨지는 순간도 다른 날과 똑같아 보여요.평소엔 평범한 요리, 트리거가 오면 몰래 다른 동작이에요.

찾기도, 없애기도 둘 다 어려워요.심기는 과정은 트로이목마 모델, 심긴 결과가 백도어예요.

한 줄로

백도어 = 레시피북 어딘가에 숨겨둔 암호 주문어 — 그 말이 나오면 다른 동작을 해요.

백도어(Backdoor)는 모델 학습·파인튜닝 과정에서 특정 트리거(단어, 문구, 패턴)가 입력되면 평소와 다른, 종종 악의적인 동작을 하도록 심어둔 숨은 규칙이에요. 트리거가 없는 평소에는 완전히 정상적으로 동작하기 때문에 찾아내기가 특히 어려워요.

백도어 Backdoor: 레시피북 맨 뒤에 숨겨둔 암호 주문어. 이 세계관 전체 소개도 있어요. → 다 받아주는 주방
트로이목마 모델 Trojan Model: 레시피북을 다듬는 틈에 몰래 백도어를 심는 과정. 같은 배치에서 바로 다음 이야기예요. → 다듬는 중에 몰래 심은 버릇
파인튜닝 Fine-tuning: 책을 다 읽은 뒤 받는 짧은 특훈. 백도어가 심기는 주요 통로예요. → 짧은 특훈
오픈 웨이트 Open Weights: 머릿속 눈금을 통째로 공개한 모델. 출처를 알기 어려운 레시피북의 예시예요. → 우리 집 앵무새 vs 빌린 앵무새
공급망 공격 Supply Chain Attack: 들어오는 재료나 도구에 미리 손을 대는 일. 보안 세계의 일반 개념이에요. → 목수의 연장통에 숨어 들어온 벌레
레드팀 Red Team: 진짜 도둑처럼 미리 찔러보는 사람들. 의심스러운 트리거를 미리 찾아보는 일도 이들이 해요. → 진짜 도둑인 척하는 팀
관측 가능성 Observability: 계기판·일지·지나간 길, 세 가지로 들여다보기. 이상한 동작 패턴은 이걸로 잡아내요. → 세 가지로 들여다보기
최소 권한 Least Privilege: 딱 필요한 만큼만 권한을 주는 것. 트리거가 터져도 피해를 줄여주는 안전망이에요. → 딱 필요한 열쇠만

다음 이야기

다른 용어도 그림책으로 보고 싶다면 요청하기 →