다섯 살도 알 수 있게 · AI이론
AI 신뢰성이 뭐예요?
AI 신뢰성을, 정확도만으론 통과할 수 없는 품질인증 등급판 — 공정성·강건성·설명가능성·책임소재까지 다 보는 이야기로 풀어봤어요.
선별기 조작원이 정확도 99%로 품질인증마크를 받고 싶어 해요.정확도 숫자 하나만으론 선별기를 믿을 수 있는지 다 말할 수 없어요.
정확도 뒤에 치우침과 약점이 숨어 있어요.한쪽 품종에 치우치거나, 작은 흠집에도 쉽게 속는 선별기일 수 있어요.
AI 신뢰성은 다섯 기준을 모두 갖춰야 받는 인증이에요.정확도 하나만 높다고 받을 수 있는 등급이 아니에요.
공정성 보기품종마다 고르게 맞히나
강건성 보기일부러 흠집 내 테스트해요
설명가능성 보기왜 이 등급인지 말할 수 있나
책임소재 보기문제 생기면 누가 답하나
다섯 기준을 하나씩 점검해요.다섯 기준 중 하나라도 미흡하면 인증 전체가 보류돼요.
인증을 한 번 받았다고 끝이 아니에요.AI 신뢰성은 계속 다시 확인하는 상태예요.
한 줄로
AI 신뢰성 = 정확도만이 아니라 공정성·강건성·설명가능성·책임소재까지 모두 갖춰야 받는, 그리고 계속 다시 점검해야 하는 품질인증.
Trustworthy AI는 OECD·EU AI Act 등에서 공통으로 다루는 개념으로, 성능(정확도)뿐 아니라 공정성(fairness, 편향 완화), 강건성(robustness, 적대적 공격·분포 밖 입력에 대한 내성), 설명가능성(explainability, XAI), 책임성(accountability, 거버넌스·인간 감독)을 함께 요구해요. 하나의 지표가 아니라 여러 축의 균형이고, 환경(데이터·사용처)이 바뀌면 재평가가 필요해요. 기준 목록은 문서마다 달라서(EU 전문가그룹 지침은 7가지 요건), 여기의 '다섯 기준'과 '품질인증'은 이해를 돕는 비유예요.
어른들은 이렇게 불러요
- 공정성(Fairness)
Fairness - 품종마다 고르게 맞히는 성질. 치우침은 AI 분야의 기본 개념이에요. → 편향이 뭐예요?
- 강건성(Robustness)
Robustness - 작은 흠집에 안 속는 성질. 적대적 예제 같은 공격에 버티는 힘이에요.
- 설명가능성(XAI)
Explainability - 등급을 매긴 이유를 말할 수 있는 성질. '이유 없이 믿어라'가 아니라 근거를 보여줘요.
- 책임성(Accountability)
Accountability - 문제가 생기면 답할 사람이 정해져 있는 것. 책임성은 거버넌스 안에서 다뤄요. → 주방 규칙판
- 안전성 평가
Safety Evaluation - 출시 전 미리 해보는 위험 테스트. AI 안전성 전용 평가가 따로 있어요. → 자세히 보기
- AI 레드팀
AI Red Team - 불시에 흠집을 내보는 검사관. 강건성을 실제로 찔러보는 역할이에요. → AI 전용 위생 검사관
- AI 개인정보보호
AI Data-Privacy Compliance - 출하자 명부를 지키는 서류함. 개인정보보호는 신뢰성의 한 축이에요. → 자세히 보기
- OWASP LLM Top 10
OWASP LLM Top 10 - 업계 공용 위험 게시판. 신뢰성 점검에서 참고하는 목록 중 하나예요. → 자세히 보기
다음 이야기
선별기를 사지 않고 구독하는 농가들 →