다섯 살도 알 수 있게 · AI 보안
도구별 권한이 뭐예요?
도구별 권한을, 서랍 칸마다 다른 배지를 달아 도구마다 꼭 필요한 만큼만 쓰게 하는 이야기로 풀어봤어요.
다 똑같은 열쇠예요 — 결제도, 삭제도 다 열려요.도구마다 다른 권한이 필요하다는 걸 안 챙기면, 결국 다 똑같이 열려 있게 돼요.
편하자고 다 열어 주면, 꼭 필요한 것 이상이 열려 있게 돼요.미리 뭐가 필요한지 다 알 수 없다는 핑계가 만능열쇠를 더 쉬운 선택으로 만들어요.
도구마다 꼭 필요한 만큼만 권한을 주는 것이에요.검색은 보기만, 결제는 한도까지, 삭제는 아예 꺼낼 수 없어요.
딱 필요한 만큼만일마다 범위가 달라요
보기만 하는 건 보기만검색·조회엔 쓰기 권한이 없어요
한도를 걸어 둬요결제엔 위아래 한도가 있어요
아예 못 꺼내게도 해요삭제·환불처럼 위험한 건요
도구마다 표가 달라요.같은 견습생도 맡은 일에 따라 권한이 달라져요.
권한은 얼마나 줄지를 정하는 설계예요.잠긴 칼 서랍은 어디서 쓰는지를 가두는 격리이고, 이 페이지는 처음부터 얼마를 줄지 정하는 권한 범위예요. 보안 마을의 최소 권한을 도구마다 적용한 모습이에요.
한 줄로
도구별 권한 = 서랍 칸마다 다른 배지를 달아, 도구마다 꼭 필요한 만큼만 쓸 수 있게 하는 것. 검색은 읽기만, 결제는 한도까지, 삭제는 아예 못 꺼내요.
Per-tool Permission. LLM 에이전트가 쓰는 도구(함수 호출) 각각에, 할 수 있는 동작·범위·한도를 따로 정해 부여하는 설계예요. 모든 도구에 같은 권한을 주는 대신, 읽기/쓰기, 금액 한도, 접근 가능한 데이터 범위를 도구별로 다르게 설정해요. 최소 권한 원칙을 에이전트의 도구 사용이라는 구체적 지점에 적용한 것이고, 도구 샌드박스(격리)와 짝을 이뤄요.
어른들은 이렇게 불러요
- 도구별 권한
Per-tool Permission - 서랍 칸마다 다른 배지. 도구마다 꼭 필요한 만큼만 쓸 수 있어요.
- 최소 권한
Least Privilege - 보안 마을의 일반 원칙. 이걸 도구 하나하나에 적용한 거예요. → 최소 권한이 뭐예요?
- 도구 샌드박스
Tool Sandbox - 어디서 쓰는지를 가두는 격리. 권한과 짝을 이루는 앞 페이지예요. → 잠긴 칼 서랍이 뭐예요?
- 도구 호출
Tool Calling - 견습생이 도구를 꺼내 쓰는 일. 권한 배지는 이 호출이 일어날 때마다 확인돼요.
- 에이전트
Agent - 심부름꾼 견습생. 배지가 없으면 견습생 스스로 권한을 넓혀 버릴 수 있어요. → 너무 많은 열쇠를 받은 견습생
- 가드레일
Guardrail - 맛보기 검수대. 배지는 도구 쪽 울타리, 검수대는 출력 쪽 울타리예요.
- 비상벨
Incident Response - 사고가 터졌을 때 누르는 벨. 권한을 줄여 두면 벨이 울릴 일도 줄어요.
- 사장님 승인
Governance Approval - 사장님이 미리 정해 두는 규칙. 어떤 배지를 누구에게 줄지는 결국 사람이 정해요.
다음 이야기
화구를 멈추지 않는 주문 →