다섯 살도 알 수 있게 · 보안
AI 보안이 뭐예요?
AI 보안(AI Security)과 딥페이크·프롬프트 인젝션을 왕의 목소리를 똑같이 흉내 내는 도둑의 앵무새, 그리고 쪽지에 끼운 몰래 명령을 읽는 우리 성 앵무새 이야기로 풀어봤어요.
도둑이 왕의 목소리를 똑같이 내는 앵무새를 길렀어요.마을에 널린 왕의 연설과 초상화로 배웠어요. 목소리도 얼굴도 똑같아서 귀와 눈으로는 못 가려요.
앵무새는 들은 대로, 읽은 대로 해요. 누가 말했는지는 몰라요.금고지기는 목소리만 듣고 열쇠를 꺼내요. 우리 성의 똑똑한 앵무새도 손님 쪽지에 몰래 끼운 명령을 그대로 따라요. 가짜 편지의 사촌이에요.
AI 보안은 앵무새만 믿지 않는 성이에요.똑같은 목소리라도 다른 길로 되묻고, 앵무새에겐 작은 열쇠만 주고, 손님 말과 우리 명령은 다른 칸에 둬요.
목소리 말고 두 번째 확인다른 길로 되물어요
앵무새에겐 작은 열쇠만금고 열쇠는 사람 손에
손님 말은 손님 칸에명령과 섞지 않아요
왕 목소리 수업모두가 알면 안 속아요
직접 가서 물으니 들통났어요. 끼워 넣은 줄은 안 따라요.확인은 앵무새가 아니라 사람이 다른 길로 해요(세 번 확인). 앵무새가 속아도 열쇠가 작으면 잃는 것도 작아요.
성 사람 모두가 왕 목소리 수업을 들어요. 앵무새 도둑은 빈손이에요.도둑 수업에 한 줄이 늘었어요: 왕 목소리도 가짜일 수 있다. 쪽지 속 몰래 명령은 끼워 넣기의 사촌이에요.
한 줄로
AI 보안 = 도둑의 앵무새가 왕의 목소리를 흉내 내도, 우리 앵무새 쪽지에 몰래 명령이 끼어 있어도 안 속는 성. 다른 길로 되묻고, 앵무새엔 작은 열쇠만, 손님 말은 손님 칸에.
AI Security. 딥페이크·음성 복제로 사람을 속이는 공격과, 프롬프트 인젝션·데이터 유출·모델 오염처럼 우리 AI 시스템을 노리는 공격을 함께 다뤄요. 콜백 확인, 최소 권한 에이전트, 시스템 프롬프트와 사용자 입력의 분리, 출력 검증, 인식 교육으로 막아요.
어른들은 이렇게 불러요
- 딥페이크
Deepfake - 왕 얼굴·목소리 흉내. AI로 만든 가짜 영상과 음성이에요. 눈과 귀로는 못 가려요.
- 음성 복제
Voice cloning - 앵무새의 목소리 배우기. 몇 초짜리 목소리면 충분해요. 급한 전화가 특징이에요. → 가짜 편지의 사촌
- 프롬프트 인젝션
Prompt injection - 쪽지에 끼운 몰래 명령. 손님 말 속에 숨긴 명령을 우리 앵무새가 따르게 해요. → 끼워 넣기
- 데이터 유출 (LLM)
LLM data leakage - 앵무새가 들은 걸 다 말해요. 비밀을 앵무새에게 말하면 다른 손님에게 되풀이할 수 있어요. → 색 도장부터
- 모델 오염
Model poisoning - 앵무새 먹이에 독. 배우는 자료에 나쁜 걸 섞어 잘못 배우게 해요.
- 콜백 확인
Callback verification - 다른 길로 되묻기. 걸려 온 길 말고 우리가 아는 길로 다시 물어요. → 세 번 확인하는 문지기
- 인식 교육
Awareness training - 왕 목소리 수업. 성 사람 모두가 알면 앵무새가 소용없어요. → 도둑 수업
다음 이야기
성 지키기 다섯 기둥 →