다섯 살도 알 수 있게 · AI 보안
워터마크가 뭐예요?
워터마크를, 요리에 눈에 안 보이게 새겨 넣어 나중에도 확인할 수 있는 표식 이야기로 풀어봤어요.
접시만 봐서는 어느 주방에서 나왔는지 알 수 없어요.일단 식당 문을 나서면, 누가 만들었는지 증명할 방법이 없어요.
나간 뒤엔 다 똑같은 접시예요.아무 표시가 없으면, 베낀 건지 원본인지 구별이 안 돼요.
워터마크는 요리에 새겨 넣는, 나중에도 확인할 수 있는 표식이에요.종이 설명표가 아니라, 요리 그 자체에 남겨요.
만들 때 바로 새겨요나중에 덧붙이는 게 아니에요
눈에는 안 보여요맛도, 모양도 안 바뀌어요
전용 도구로 확인해요아무나 바로 못 봐요
완벽하진 않아요아주 심하게 고치면 지워져요
요리를 만들고, 표식을 새기고, 나간 뒤, 나중에 확인해요.확인은 서빙되고 한참 지난 뒤에도 할 수 있어요.
모델카드는 서빙 전 설명표, 워터마크는 서빙 뒤 표식이에요.요리 설명표는 주문 전에 붙이는 안내문이고, 워터마크는 다 만들어진 결과물에 남기는 사후 표식이에요. 둘 다 완벽하진 않지만, 주방장이 손님 말을 믿고 따르는 본능 때문에 생기는 틈을, 서로 다른 시점에서 메워 줘요.
한 줄로
워터마크 = 요리에 눈에 안 보이게 새기는 표식. 나중에 전용 도구로 확인하면, 이게 이 주방에서 나온 요리인지 알 수 있어요.
워터마크(Watermarking)는 AI가 만든 결과물(텍스트·이미지·음성)에, 사람은 알아채기 어렵지만 전용 탐지기로는 확인할 수 있는 표식을 심는 기법이에요. 생성 시점에 통계적 패턴(예: 특정 토큰 선택 편향)이나 신호를 끼워 넣고, 나중에 그 패턴을 검사해 'AI가 생성했는지'를 판별해요. 모델카드처럼 배포 전에 쓰는 설명서가 아니라, 이미 나온 결과물에 사후적으로 적용하는 표식이라는 점이 다르고, 결과물을 크게 변형하면 표식이 깨질 수 있다는 한계도 있어요.
어른들은 이렇게 불러요
- 워터마크
Watermark - 요리에 새긴 눈에 안 보이는 표식. 전용 도구로만 확인할 수 있어요.
- 요리 설명표 비교
vs. the dish's label - 설명표는 서빙 전, 워터마크는 서빙 뒤. 서로 다른 시점에 쓰는 짝이에요. → 요리 설명표
- 탐지기
Detector - 표식을 읽어내는 전용 도구. 검사관만 쓰는 도구예요 — 아무나 맨눈으로는 못 봐요.
- 출처 인증
Provenance - 이 요리가 정말 이 주방에서 나왔다는 증거. 워터마크가 뒷받침하는 증거예요.
- 합성 결과물
Synthetic content - 사람이 아니라 주방장이 통째로 만든 요리. 특히 이런 요리에서 표식이 더 중요해요. → 앵무새 마을의 합성 콩
- 고쳐 쓰기 공격
Scrubbing attack - 표식을 지우려고 일부러 많이 고쳐 쓰는 것. 표식의 가장 큰 한계예요.
- 규제 준수
Compliance - 정부나 업계가 표식을 의무로 요구하는 경우. AI 생성물 표시를 법으로 요구하는 곳도 있어요. → 보안 마을의 규제 준수
- 감사 로그
Audit log - 언제 어떤 요리가 새겨졌는지 적어 두는 장부. 표식 자체가 지워져도, 장부가 남아 있으면 되짚을 수 있어요.
다음 이야기
위생 검사관의 불시 방문 →