다섯 살도 알 수 있게 · AI 보안
트로이목마 모델이 뭐예요?
트로이목마 모델을, 레시피북이 다듬어지는 틈에 몰래 쪽지 한 장이 끼워져 그대로 퍼지는 이야기로 풀어봤어요.
다른 곳에서 만든 레시피북을 받아와요.어디서 어떻게 다듬어졌는지는 보이지 않아요.
다듬는 틈에 몰래 쪽지가 끼워져요.완성되면 다시 잠기고, 안은 보이지 않아요.
트로이목마 모델은 몰래 백도어를 심어 퍼뜨리는 것이에요.겉은 똑같이 잠긴 레시피북이에요.
믿을 수 있는 공급처만 쓰기출처가 분명한 곳에서만 받아요
출처·서명 확인하기서명이 안 맞으면 바로 의심해요
받은 모델도 꼭 검수하기설치 전에 한 번 더 들여다봐요
수상한 동작 패턴 감시하기설치 후에도 계속 지켜봐요
몇 단계를 거치든, 한 번 심기면 그대로 퍼져요.만들기 → 몰래 삽입 → 설치, 세 걸음이에요.
찾기 어렵고, 모델 자체를 바꿔야 없어져요.심는 과정이 트로이목마 모델, 심긴 결과가 백도어예요.
한 줄로
트로이목마 모델 = 레시피북을 다듬는 틈에 몰래 백도어를 심어 퍼뜨리는 것.
트로이목마 모델(Trojan Model)은 공개된 모델이나 파인튜닝 서비스에 공급자·개발자·중간 단계 중 누군가가 몰래 백도어를 심어 배포하는 과정 전체를 가리켜요. 심어진 결과(백도어) 자체보다, '어떻게 심기고 어떻게 퍼지는지'에 초점을 맞춘 공급망 공격의 한 형태예요.
어른들은 이렇게 불러요
- 트로이목마 모델
Trojan Model - 몰래 백도어를 심어 퍼뜨리는 과정. 이 세계관 전체 소개도 있어요. → 다 받아주는 주방
- 백도어
Backdoor - 암호 주문어가 나오면 숨겨둔 동작을 하는 것 — 심긴 결과. 바로 앞 이야기예요. → 숨겨진 암호 주문어
- 공급망 공격
Supply Chain Attack - 들어오는 재료나 도구에 미리 손을 대는 일. 일반 공급망과 달리 여기서는 모델 자체가 노려져요. → 목수의 연장통에 숨어 들어온 벌레
- SBOM
SBOM - 도구에 붙은 부품 목록표. 모델에도 이런 출처 목록이 필요해요. → 도구에 붙은 부품 목록표
- 오픈 웨이트
Open Weights - 머릿속 눈금을 통째로 공개한 모델. 누구나 다듬을 수 있어서 더 위험해요. → 우리 집 앵무새 vs 빌린 앵무새
- 파인튜닝
Fine-tuning - 책을 다 읽은 뒤 받는 짧은 특훈. 바로 이 특훈 과정에서 많이 심겨요. → 짧은 특훈
- 레드팀
Red Team - 진짜 도둑처럼 미리 찔러보는 사람들. 받은 모델을 설치 전에 찔러봐요. → 진짜 도둑인 척하는 팀
- 평가
Evaluation - 시험관이 매기는 채점표. 받은 모델을 채점표로 미리 테스트해봐요. → 시험관의 채점표
다음 이야기
너무 많은 열쇠를 받은 견습생 →