다섯 살도 알 수 있게 · AI 보안
AI 감사 로그가 뭐예요?
AI 감사 로그를, 멀쩡한 날에도 계속 적어두는 주문 기록 장부 이야기로 풀어봤어요.
주문도, 요리도, 도구 사용도 많은 하루인데, 아무도 적어두지 않아요.멀쩡한 날이라 다들 기록이 필요 없다고 생각해요.
멀쩡해 보이는 날엔, 적어두는 게 괜히 귀찮은 일 같아요.나중에 뭐가 중요해질지는, 그날은 몰라요.
감사 로그 = 평소에 계속 적어두는 주문 기록 장부예요.주문서도, 요리도, 도구 사용도 — 멀쩡한 날에도 적어둬요.
주문서 적어둬요들어온 글자 그대로요
나간 요리도 적어둬요어떤 답이 나갔는지도요
도구 사용도 적어둬요칼서랍 꺼낸 것도요
누가 언제 봤는지도요장부도 지켜봐야 해요
평소엔 조용히 쌓이다가, 벨이 울리면 그 장부를 펼쳐요.그 전에 쌓인 장부를 펼쳐서 정확히 뭐가 있었는지 찾아요.
영원히 쌓아두면 그것도 비용이고 위험이에요 — 사고 대응과 다르고, 관측 가능성과도 달라요.이 기록들이 모여, 다음엔 더 나은 가드레일과 규칙을 만드는 재료가 돼요.
한 줄로
감사 로그 = 멀쩡한 날에도 주문·요리·도구 사용을 계속 적어두는 장부. 사고가 나면 이 장부를 펼쳐 보고, 다음엔 더 나은 가드레일을 만드는 재료가 돼요.
AI 감사 로그(Audit log)는 LLM·에이전트의 입력(프롬프트)·출력·도구 호출·접근 기록을 지속적으로 남기는 일이에요. 사고 대응(aiincident)이 '사고가 났을 때' 쓰는 절차라면, 감사 로그는 '사고가 나기 전부터' 평소에 계속 쌓아두는 재료예요. 일반 시스템 관측(observability)과 달리 AI 고유의 행동·출력 내용을 기록 대상으로 삼고, 보관 기간과 민감정보 가리기(레덕션)를 함께 설계해야 비용과 프라이버시 문제를 피할 수 있어요.
어른들은 이렇게 불러요
- 감사 로그
Audit log - 매일 계속 적어두는 주문 기록 장부. 사고가 나기 전부터 쌓여 있어야 쓸모가 있어요.
- AI 사고 대응과의 차이
Difference from incident response - 벨이 울릴 때만 쓰는 것과, 평소에 계속 쓰는 것의 차이. 사고 대응은 바로 앞 페이지예요. → 울리는 비상벨
- 관측 가능성과의 차이
Difference from observability - 시스템 숫자를 보는 것과, AI의 말·행동을 적어두는 것의 차이. 일반 시스템 관측은 다른 세계 이야기예요. → 세 가지로 들여다보기
- 도구 사용 기록
Tool-call logging - 칼서랍에서 뭘 꺼냈는지도 같이 적어둬요. 도구 호출 자체는 다른 개념이에요. → 도구 호출이 뭐예요?
- 보관 기간
Retention period - 오래된 장부는 지우기로 정해둔 기한. 다 쌓아두면 그것도 비용이고 위험이에요.
- 가리기(레덕션)
Redaction - 장부에 적을 때 비밀은 가리는 것. 개인정보 보호와 바로 이어져요. → AI 프라이버시가 뭐예요?
- 규정 준수 증빙
Compliance evidence - "우리가 지켰어요"를 보여줄 증거. 이 장부가 바로 그 증거예요. → 컴플라이언스가 뭐예요?
다음 이야기
다 받아주는 주방 →