다섯 살도 알 수 있게 · AI이론
AI 윤리기준·거버넌스가 뭐예요?
AI 윤리기준·거버넌스를, 여러 품질검사장이 공통으로 지킬 등급 원칙과 책임 체계로 풀어봤어요.
검사장마다 등급 기준이 제각각이에요.같은 작물인데도 검사장에 따라 합격·불합격이 갈려요.
등급 기준이 안 적혀 있으면, 왜 그 등급인지 아무도 설명하지 못해요.오판했을 때 누가 책임지는지도 알 수 없어요.
AI 윤리기준·거버넌스는 모든 검사장이 함께 지킬 등급 원칙과 책임 체계예요.원칙판은 개별 선별기 하나의 규칙이 아니라, 검사장 전체가 따르는 틀이에요.
공정성 지키기작물 종류로 차별 않기
설명 가능하게 하기등급 이유를 남겨요
책임소재 분명히 하기오판 때 누가 책임지는지 정해요
사람이 재검토하기이의 제기 통로를 열어요
원칙판은 이의 제기 절차까지 구체적으로 정해 둬요.등급을 매긴 근거가 남아 있어야, 재검토도 가능해요.
원칙판이 있어도 검사장이 안 지키면 소용없어요.AI 거버넌스를 이 페이지는 윤리·규제 준수 각도로, LLM 보안 분야 페이지는 보안 운영 각도로 봐요.
한 줄로
AI 윤리기준·거버넌스 = 모든 검사장이 함께 지킬 공정성·설명가능성·책임소재를 정한 등급 원칙판.
AI 윤리기준·거버넌스는 조직이 AI를 개발·운영하는 전 과정에서 공정성, 투명성(설명가능성), 책임소재, 사람의 재검토 권리를 보장하도록 정한 정책·규범 체계예요. OECD AI 원칙, EU AI Act, 국내 AI기본법의 신뢰성 요건과 맞닿아 있어요. 보안 사고 대응에 초점을 둔 운영 거버넌스(AI 보안 거버넌스)와 달리, 이쪽은 사회적 수용성·규제 준수·이해관계자 신뢰라는 더 넓은 틀을 다뤄요.
어른들은 이렇게 불러요
- AI 윤리기준
AI ethics standard - 공통 등급 원칙판. 모든 검사장이 함께 지켜요.
- AI 거버넌스(보안 각도)
AI governance (security angle) - LLM 보안 분야의 규칙판. 운영·보안 중심 각도는 여기서. → 주방 규칙판
- 설명가능성(XAI)
Explainability (XAI) - 등급을 매긴 이유를 남기는 일. 이유 없이 매긴 등급은 이의 제기조차 못 해요.
- 공정성
Fairness - 작물 종류로 차별하지 않는 것. 편향은 씨앗 단계에서도 섞여 들어와요. → 상한 씨앗으로 가르친 선별기
- AI 리스크 관리 프레임워크
AI risk management framework - 원칙을 실제 절차로 바꾸는 작업 지도. 원칙판을 실행에 옮기는 방법은 따로 있어요. → 검사장 전체를 도는 운영 지도
- 인공지능기본법
AI Basic Act - 나라가 정한 최소 등급 기준. 고영향 AI는 법으로 더 엄격히 다뤄요. → 나라가 정한 최소 등급 기준
- 사람 재검토
Human review - 농부의 이의 제기 통로. 원칙판이 보장하는 네 가지 중 하나예요.
- 이해관계자 신뢰
Stakeholder trust - 농부·손님·나라 모두가 검사장을 믿는 것. 윤리기준이 궁극적으로 지키려는 것이에요.
다음 이야기
작물에 몰래 붙인 가짜 점무늬 →