다섯 살도 알 수 있게 · AI 보안
AI 거버넌스가 뭐예요?
AI 거버넌스를, 여러 주방이 AI를 어떻게 쓰고 다룰지 함께 적어 둔 규칙판 이야기로 풀어봤어요.
주방마다 제각각이에요.사고가 나면, 누구 책임인지도 몰라요.
글로 적힌 공통 규칙이 없으면 매번 달라져요.누가 결정하고 누가 책임지는지가 주방마다, 순간마다 바뀌어요.
주방 규칙판 = AI를 어떻게 쓰고 다루는지 정한 정책·책임 체계예요.한 장의 규칙판에, 승인·확인·책임·점검을 모두 적어 둬요.
누가 승인하나결정권을 분명히 적어요
언제 사람이 확인하나승인 단계가 언제 켜지는지요
사고 나면 누가 책임지나비상벨 다음에 올 일이에요
얼마나 자주 점검하나규칙판도 낡을 수 있어요
규칙판 한 장이 여러 장치를 묶어요.승인 단계, 레드팀, 사고 대응, 감사 로그 — 각자 따로 일하지만 규칙판이 전부를 하나로 엮어요.
규칙판이 있어도, 안 지키면 소용없어요.이웃 나라 규칙 검사관처럼, 실제로 지켜지는지 증거로 계속 확인해야 해요.
한 줄로
AI 거버넌스 = 이 주방이 AI를 어떻게 쓰고 다룰지, 누가 승인하고 책임지는지를 한 장에 적어 둔 규칙판.
AI 거버넌스(AI Governance)는 조직이 AI 시스템을 어떻게 개발·배포·운영할지를 정하는 정책과 책임 체계예요. 승인 권한, 사람 확인이 필요한 지점, 사고 발생 시 책임 소재, 정기 점검 주기 같은 것들을 명문화해서, 여러 팀·여러 모델에 걸쳐 일관되게 적용되도록 해요. 한 번의 승인 단계 같은 개별 장치를 포함하는, 그보다 더 큰 틀이에요.
어른들은 이렇게 불러요
- AI 거버넌스
AI governance - 주방 규칙판. 이 분야 전체 소개는 여기에. → AI 보안이 뭐예요?
- 사람 승인 단계
Human approval gate - 사장님 최종 승인. 규칙판이 포함하는 장치 중 하나예요. → 사람 승인 단계가 뭐예요?
- 규정 준수
Compliance - 이웃 나라 규칙 검사관. 규칙판이 외부 기준과 맞는지 증거로 확인하는 쪽이에요. → 규정 준수가 뭐예요?
- AI 레드팀
AI red team - 위생 검사관의 불시 방문. 규칙판에 레드팀 일정으로 적혀 있는 바로 그 일이에요. → AI 레드팀이 뭐예요?
- 안전성 평가
Safety evaluation - 손님 받기 전 맛 평가 테스트. 규칙판이 정한 점검 주기마다 다시 돌려요. → 안전성 평가가 뭐예요?
- 비상벨
The incident bell - 사고가 났을 때 울리는 벨. 규칙판이 '사고 나면 누가 책임지나'로 적어 둔 그 장면이에요.
- 주문 기록 장부
The order logbook - 감사 로그를 적어 두는 장부. 규칙판이 '얼마나 자주 점검하나'를 확인할 때 펼쳐 보는 장부예요.
- 최소 권한
Least privilege - 필요한 열쇠만 쥐어 주는 것. 규칙판이 누가 승인하나를 정하기 전에 먼저 깔아 두는 바닥이에요. → 열쇠 이야기가 뭐예요?
다음 이야기
몰래 들여온 배달 상자 →