다섯 살도 알 수 있게 · AI 보안
도구 샌드박스가 뭐예요?
도구 샌드박스를, 견습생이 도구를 한 칸씩만 꺼내 쓰고 다 쓰면 다시 잠기는 칼 서랍 이야기로 풀어봤어요.
견습생이 칼도, 불도, 전화도 마음대로 꺼내 써요.서랍이 다 열려 있으면, 도구 하나가 말썽을 부려도 막을 길이 없어요.
도구 하나가 말썽을 부려도 다 같이 열려 있으면 피해가 번져요.견습생은 스스로 다음 할 일을 정해요 — 그래서 미리 다 가둬 둘 필요가 있어요.
도구 실행 환경을 격리해서 피해를 가둬두는 것이에요.한 번에 한 칸만 열리고, 사고가 나도 그 칸 밖으로는 안 퍼져요.
한 번에 한 칸만나머진 계속 잠겨 있어요
꺼내 쓰는 순간만 열려요쓰고 나면 다시 잠겨요
칸 사이엔 벽이 있어요한 칸이 터져도 옆 칸은 안전해요
처음 상태로 되돌려요다음 번도 다시 한 칸씩
서랍 칸 하나씩, 쓴 다음 다시 잠겨요.요청한 칸만 열리고, 나머지는 그 사이에도 계속 잠겨 있어요.
격리는 터진 걸 가두고, 권한은 처음부터 얼마를 줄지 정해요.보안 마을의 샌드박스는 격리 자체를 다루는 일반 개념이고, 이건 도구 호출을 격리하는 전용 버전이에요. 각 칸에 얼마만큼 허락할지는 도구별 권한 배지에서.
한 줄로
도구 샌드박스 = 견습생이 도구를 서랍 한 칸씩만 꺼내 쓰게 하고, 다 쓰면 다시 잠그는 것. 한 칸이 터져도 피해가 다른 칸으로 번지지 않아요.
Tool Sandbox. LLM 에이전트가 함수 호출(도구)을 실행할 때, 그 실행을 격리된 환경(프로세스, 컨테이너, 전용 런타임)에 가두는 보안 장치예요. 파일시스템·네트워크·시스템 자원 접근을 제한해서, 도구 하나가 오작동하거나 악용돼도 피해 범위를 그 샌드박스 안으로 한정해요. 일반 샌드박스 개념을 도구 호출이라는 구체적 실행 지점에 적용한 버전이에요.
어른들은 이렇게 불러요
- 도구 샌드박스
Tool Sandbox - 한 번에 한 칸씩만 열리는 서랍. 사고가 나도 그 칸 안에서만 터져요.
- 샌드박스
Sandbox - 격리를 다루는 보안 마을의 일반 개념. 이건 도구 호출 전용 버전이에요. → 샌드박스가 뭐예요?
- 도구 호출
Tool Calling - 견습생이 도구를 꺼내 쓰는 일. 무엇을 격리하는지가 바로 이거예요. → 도구 호출이 뭐예요?
- 도구별 권한
Per-tool Permission - 칸마다 다른 배지. 격리와 짝을 이루는 다음 페이지예요. → 도구별 권한 배지가 뭐예요?
- 최소 권한
Least Privilege - 처음부터 꼭 필요한 만큼만. 격리와 함께 쓰면 더 든든해요.
- 에이전트
Agent - 심부름꾼 견습생. 혼자 다니며 스스로 다음 할 일을 정해요.
- 공급망 공격
Supply Chain Attack - 재료창고에 미리 들어온 수상한 재료. 서랍 안 도구 자체가 처음부터 망가져 있을 수도 있어요.
- 비상벨
Incident Response - 사고가 터졌을 때 누르는 벨. 격리는 벨이 울릴 일 자체를 줄여줘요.
다음 이야기
도구별 권한 배지 →