다섯 살도 알 수 있게 · AI 보안
AI 보안이 뭐예요?
AI 보안을, 손님이 시키는 대로 다 받아주는 주방장과 그 주방을 노리는 사람들 이야기로 풀어봤어요.
이 주방은 손님이 시키는 대로 다 받아줘요.보통 주문도, 몰래 끼운 주문도 똑같이 받아요.
주방장은 글자만 보고 믿어요 — 누가 썼는지는 몰라요.사람 주방장은 의심하지만, 이 주방장은 그러지 않아요.
AI 보안은 이 주방을 안전하고 믿을 수 있게 지키는 일이에요.재료·도구·레시피·접시, 모두 노려질 수 있어요.
약점 지도 그리기어디가 뚫릴지 먼저 알아요
도구는 허락만큼만칼서랍은 잠겨 있어요
내보내기 전 맛보기위험한 요리는 걸러내요
레시피북은 숨기기통째로 베껴가지 못하게요
공격이 노리는 지점은 네 군데예요.주문서, 재료창고, 칼서랍, 레시피북 — 다음 페이지들에서 하나씩 풀어봐요.
한 번 막았다고 끝이 아니에요.AI 보안은 계속 지켜보고 또 지키는 일이에요.
한 줄로
AI 보안 = 무엇이든 시키는 대로 믿고 따르는 주방장을 둔 채로, 재료·도구·레시피·접시 네 지점을 계속 지켜보고 지키는 일.
AI 보안(AI Security)은 LLM·에이전트 같은 AI 시스템이 가진 고유한 공격 표면(프롬프트 인젝션, 데이터/모델 공급망, 도구 사용, 모델 자체에 대한 탈취·추론 공격)을 다루는 보안 분야예요. 일반 보안과 다른 점은, 공격과 정상 요청이 '같은 자연어 채널'로 들어온다는 것 — 그래서 구분이 훨씬 어려워요.
어른들은 이렇게 불러요
- AI 보안
AI Security - 이 주방 전체를 지키는 일. 보안 세계의 첫 소개 페이지도 있어요. → AI 보안이 뭐예요?
- 프롬프트 인젝션
Prompt Injection - 주문서 뒤에 몰래 끼운 쪽지. 다음 페이지에서 자세히 풀어요. → 주문서 뒤에 몰래 끼운 쪽지
- 가드레일
Guardrail - 맛보기 검수대. AI 세계에서 더 자세히 봐요. → 가드레일이 뭐예요?
- 도구 호출
Tool Calling - 칼서랍에서 도구를 꺼내 쓰는 일. AI 세계의 기본 개념이에요. → 도구 호출이 뭐예요?
- 공급망 공격
Supply Chain Attack - 재료창고에 미리 들어온 수상한 재료. 보안 세계의 일반 개념이에요. → 공급망 공격이 뭐예요?
- 레드팀
Red Team - 위생 검사관의 불시 방문. 이 분야에서는 AI 전용 레드팀이 따로 있어요. → AI 전용 위생 검사관
- 할루시네이션
Hallucination - 모르는데 자신 있게 답하는 버릇. AI 세계의 기본 개념이에요. → 할루시네이션이 뭐예요?
- 거버넌스
AI Governance - 주방 규칙판. 마지막 챕터에서 자세히 다뤄요. → 주방 규칙판
다음 이야기
주문서 뒤에 몰래 끼운 쪽지 →