AI 프라이버시가 뭐예요?
AI 프라이버시를, 빌린 앵무새에게 손님 명부를 통째로 주면 어디로 가는지, 비밀 콩은 어떻게 가리고 약속을 받는지 이야기로 풀어봤어요.
서기가 손님 명부를 통째로 앵무새에게 붙여 넣었어요.편하긴 한데, 이 콩들은 어디로 가나요? 앵무새 학교 책이 되나요?
빌린 앵무새는 남의 집이에요 — 콩이 남고, 책이 되고, 다른 답에 섞일 수 있어요.빌린 앵무새에게 준 콩은 남의 쟁반에 놓여요. 그 집이 콩을 남겨 두거나 다음 학교 책으로 쓰면, 언젠가 다른 손님 답에 섞여 나올 수 있어요.
AI 프라이버시는 비밀 콩을 가리거나 우리 집 앵무새에게만 주고, 학습에 안 쓴다는 약속을 받는 거예요.비밀 콩 = 이름·전화·카드 같은 개인정보와 회사 비밀. 붙여 넣기 전에 가리고, 계약으로 약속을 받아요.
밖으로 나가는 건 번호표 콩뿐이고, 이름은 우리 집에서 되돌려요.번호표 표는 우리 집에만 있어요. 앵무새는 손님1이 누군지 몰라도 답을 잘 써요. 계약엔 학습 제외, 지우는 날짜, 데이터가 머무는 나라를 적어요.
가려도 조합하면 알아봐요. 그리고 이미 읽은 책은 되돌릴 수 없어요.그래서 처음부터 비밀 콩은 안 주는 게 제일이에요. 어떤 콩이 비밀인지는 등급표로, 원칙은 보안 성의 프라이버시에서. 앵무새 수첩에 남는 것도 같은 문제예요.
AI 프라이버시 = 앵무새에게 주는 콩 중 비밀 콩(개인정보·회사 비밀)을 가리거나 우리 집 앵무새에게만 주고, 학습에 안 쓴다는 약속을 받는 것. 가려도 조합하면 알아볼 수 있고 읽은 책은 못 돌리니, 처음부터 안 주는 게 제일이에요.
AI Privacy. 프롬프트·대화 기록·파인튜닝 데이터에 든 개인정보와 기밀을 다루는 일이에요. 입력 전 마스킹·가명처리, 학습 제외(opt-out)와 보존 기간·리전을 정한 기업 계약(DPA), 자체 호스팅(오픈 웨이트)이 도구예요. 가명 데이터도 재식별될 수 있고, 이미 학습된 정보는 제거가 어려워요.
어른들은 이렇게 불러요
- 데이터 프라이버시
Data privacy - 비밀 콩을 지키는 일. 원칙은 보안 성에서. → 프라이버시
- 학습 제외
Training opt-out - '다음 책으로 안 씀' 약속. 약관이나 설정에서 확인해요. 기본값이 '씀'인 곳도 있어요.
- 데이터 보존 정책
Data retention policy - 콩을 며칠 뒤 지우나. 30일? 영원히? 계약에 적어요. → 보존
- 마스킹 · 가명처리
Masking · Pseudonymization - 이름 → 번호표. 번호표 표는 우리 집에만. → 마스킹
- 데이터 위치
Data residency - 콩이 머무는 나라. 법이 나라마다 달라서 '우리 나라 안'을 계약에 넣어요.
- 기업 계약
Enterprise agreement · DPA - 계약 두루마리 한 장. 학습 제외·보존 기간·위치·사고 시 알림을 한 장에 적은 약속이에요.
- 메모리
Memory - 앵무새의 수첩. 수첩에 적힌 비밀 콩도 같은 문제예요. → 앵무새의 수첩
- 오픈 웨이트
Open weights - 우리 집 앵무새. 비밀 콩은 남의 집에 안 보내요. → 우리 집 앵무새 vs 빌린 앵무새