다섯 살도 알 수 있게 · AI 보안
모델카드가 뭐예요?
모델카드를, 주문 전에 손님이 읽는 요리 설명표 이야기로 풀어봤어요.
접시만 보고는, 이 요리가 나한테 맞는지 알 수 없어요.매운 재료가 들었는지, 아이도 먹을 수 있는지, 아무 표시가 없어요.
겉보기엔 다 똑같은 접시예요.주방장이 따로 써 붙이지 않으면, 손님은 겉모습만 보고 주문해요.
모델카드는 손님이 주문 전에 읽는 요리 설명표예요.인증서는 주방 안쪽용, 설명표는 손님용이에요.
용도 적기누구에게 맞는 요리인지
제한 적기언제는 시키면 안 되는지
재료 개요 적기무엇으로 만들었는지 간단히
알려진 문제 적기아직 고치는 중인 것까지
설명표에는 용도·제한·재료·알려진 문제를 적어요.손님은 주문 전에, 사장님은 붙일지 결정할 때 읽어요.
인증서는 재료 출처, 설명표는 사용법을 말해요.같은 배치의 재료 출처 인증서는 주방 안쪽용이고, 모델카드는 손님용이에요 — 그런데 써 붙인다고 손님이 꼭 읽는 건 아니에요.
한 줄로
모델카드 = 손님이 주문 전에 읽는 요리 설명표. 이 요리의 용도, 제한, 재료 개요, 알려진 문제를 적어서 보여 줘요.
모델카드(Model Card)는 모델의 용도, 사용 범위 밖의 경우, 학습 데이터 개요, 성능·한계를 공개하는 문서예요. AIBOM이 모델에 들어간 재료의 출처를 주방 안쪽(엔지니어·감사관)이 보도록 적은 것이라면, 모델카드는 그 모델을 쓸 사람(개발자·사용자)을 위한 사용설명서예요. 둘은 같은 배치에서 나오지만 독자와 목적이 달라요.
어른들은 이렇게 불러요
- 모델카드
Model card - 요리 설명표. 손님이 주문 전에 읽는, 용도와 제한을 적은 문서예요.
- 용도
Intended use - 누구에게 맞는 요리인지. 설명표의 첫 줄이에요.
- 범위 밖 사용
Out-of-scope use - 시키면 안 되는 경우. 의학·법률 조언처럼 이 요리가 안 맞는 자리예요.
- 재료 출처 인증서 비교
vs. the ingredient certificate - 인증서는 주방 안쪽, 설명표는 손님용. 같은 배치에서 나오는 짝이에요. → 재료 출처 인증서
- 오픈 웨이트 모델
Open-weight model - 누구나 가져다 쓸 수 있는 레시피. 공개 레시피일수록 설명표가 더 중요해요. → 앵무새 마을의 오픈 웨이트
- 성능·한계 평가
Evaluation of limits - 이 요리가 어디서 자주 틀리는지 미리 재는 일. 설명표에 적을 숫자는 이 평가에서 나와요. → 앵무새 마을의 평가
- 레드팀 점검
Red-team check - 써 붙이기 전에 위생 검사관이 한 번 더 봐요. 설명표의 알려진 문제 칸은 레드팀이 찾아낸 것일 때가 많아요. → 보안 마을의 레드팀
- 투명성
Transparency - 가려 두지 않고 써 붙이는 것. 설명표가 있다는 것 자체가 투명성의 시작이에요.
다음 이야기
요리에 새긴 표식 →