다섯 살도 알 수 있게 · AI이론
AI 리스크 관리 프레임워크가 뭐예요?
AI 리스크 관리 프레임워크를, 사고 난 뒤가 아니라 평소에 검사장 전체를 도는 운영 지도 이야기로 풀어봤어요.
검사장은 사고가 터진 뒤에야 허둥지둥 대응해요.평소엔 아무도 위험을 미리 들여다보지 않았어요.
위험은 씨앗부터 바깥 농장까지 곳곳에 흩어져 있어요.같은 종류의 위험도 담당자마다 대응 방식이 달라요.
AI 리스크 관리 프레임워크는 검사장 전체를 도는 4단계 운영 지도예요.네 단계를 한 바퀴 돌고 나면, 다시 처음부터 돌아요 — 한 번으로 끝나는 절차가 아니에요.
①거버넌스원칙과 책임을 먼저 세워요
②위험 지도화어디에 위험 있는지 찾아요
③측정위험의 크기와 빈도를 재요
④관리위험을 줄이고 다시 살펴요
네 단계는 각각 구체적인 할 일을 가지고 있어요.원칙만 있고 실행이 없으면, 지도는 벽에 걸린 그림일 뿐이에요.
프레임워크가 위험을 완전히 없애주진 않아요.지도의 각 단계는 원칙(윤리기준)과 법적 최저선(AI기본법)을 함께 따라요.
한 줄로
AI 리스크 관리 프레임워크 = 검사장 전체를 거버넌스·위험지도화·측정·관리 네 단계로 도는 운영 지도.
AI 리스크 관리 프레임워크는 AI 시스템의 위험을 식별(Map)·측정(Measure)·완화(Manage)하고, 이를 조직 차원의 책임 체계(Govern) 안에서 반복적으로 운영하는 절차예요. 미국 NIST의 자율 적용 프레임워크 AI RMF의 4대 기능(Govern·Map·Measure·Manage)이 대표적인 모델이고, 국내 AI기본법이 고영향 AI에 요구하는 위험관리방안도 비슷한 흐름이에요. 이 그림책의 '4단계'는 이해를 돕는 정리이고, NIST에서 Govern은 나머지 세 기능을 감싸는 기능이에요. 한 번 돌고 끝나는 게 아니라, 모델과 환경이 바뀔 때마다 다시 도는 순환 절차예요.
어른들은 이렇게 불러요
- AI 리스크 관리 프레임워크
AI risk management framework - 검사장 전체를 도는 운영 지도. 한 바퀴로 끝나지 않고 계속 돌아요.
- NIST AI RMF
NIST AI RMF - 거버넌스·위험지도화·측정·관리 네 기능. 순서가 고정된 절차는 아니고, 거버넌스가 나머지 셋을 감싸요.
- AI 윤리기준·거버넌스
AI ethics & governance - ①거버넌스 단계가 기대는 원칙판. 이 지도의 출발점이 되는 원칙이에요. → 모든 검사장이 함께 쓰는 등급 원칙판
- 위험 평가
Risk assessment - ②③단계(위험 지도화·측정)를 합친 말. 어디에 얼마나 큰 위험이 있는지를 함께 답해요.
- 완화 조치
Mitigation - ④관리 단계에서 적용하는 실제 조치. 측정된 위험을 줄이기 위한 실행이에요.
- 인공지능기본법
AI Basic Act - 법이 강제하는 최소한의 위험 관리 의무. 고영향 AI는 이런 위험 관리를 법적 의무로 요구받아요.
- 잔여 위험
Residual risk - 관리한 뒤에도 남는 위험. 위험이 0이 되지 않는다는 걸 인정하고 받아들이는 부분이에요.
- 공급망 위험
Supply-chain risk - 바깥 농장에서 들어오는 위험. ②위험 지도화 단계가 우리 검사장 바깥까지 살펴야 하는 이유예요.
다음 이야기
이름표 없이 비슷한 것끼리 모으기 →