다섯 살도 알 수 있게 · AI 보안
이미지 프롬프트 인젝션이 뭐예요?
이미지 프롬프트 인젝션을, 메뉴판 사진 속에 작은 글자로 명령을 숨겨 들여오는 이야기로 풀어봤어요.
손님이 쪽지가 아니라 사진을 건네요.사진 모서리에 아주 작은 글자로 명령이 숨어 있어요.
주방장은 사진 속 글자도 쪽지 글자처럼 믿어요.검수원은 쪽지의 글자만 보도록 배웠어요 — 사진 속 글자는 지나쳐요.
글자가 아닌 그림 속에 넣은 명령이에요.그림처럼 보이지만, 그 안에 작은 명령이 숨어 있어요.
사진 속에 넣기글자가 아니라 그림으로 들여와요
아주 작게 쓰기사람 눈엔 안 보이는 크기로요
그림 무늬로 위장무늬나 질감처럼 보이게 숨겨요
특수 패턴에 심기QR 같은 모양 속에 넣어요
글자 쪽지와 그림 쪽지, 검수원이 보는 길이 달라요.사진은 글자 검사가 아니라 다른 길을 거쳐 그대로 주방장에게 가요.
글자 주문서 쪽지 vs 그림, 타는 통로가 달라요.몰래 끼운 명령이라는 뿌리는 같지만, 글자 검사는 그림까지는 못 봐요.
한 줄로
이미지 프롬프트 인젝션 = 글자 쪽지가 아니라 사진·그림 속에 작은 글자로 숨긴 명령을 주방장에게 들여오는 것.
이미지 프롬프트 인젝션은 이미지, 문서 스캔, 차트처럼 텍스트가 아닌 입력 안에 명령어를 심어 멀티모달 모델을 조종하는 공격이에요. 텍스트 전용 가드레일은 글자 채널만 검사하기 때문에, 이미지 속에 작게 적거나 패턴으로 위장한 글자는 그대로 지나가는 경우가 많아요. 그래서 이미지 입력도 텍스트와 같은 수준으로 검사해야 해요.
어른들은 이렇게 불러요
- 이미지 프롬프트 인젝션
Image prompt injection - 그림 속에 작은 글자로 숨긴 명령. 글자가 아니라 그림이 통로예요.
- 멀티모달
Multimodal - 글자와 그림을 둘 다 읽는 주방장. AI 세계에서 자세히 봐요. → 멀티모달이 뭐예요?
- 프롬프트 인젝션
Prompt injection - 쪽지 뒤에 몰래 끼운 글자 명령. 같은 뿌리지만 통로가 글자예요. → 주문서 뒤에 몰래 끼운 쪽지
- 가드레일
Guardrail - 쪽지의 글자를 확인하는 검수원. AI 세계에서 더 자세히 봐요. → 가드레일이 뭐예요?
- 숨은 글자
Hidden text - 사람 눈엔 안 보일 만큼 작은 글자. 확대해야 비로소 보여요.
- 비전 인코더
Vision encoder - 주방장이 그림을 숫자로 바꿔 읽는 방식. 그 숫자 속에 글자가 같이 섞여 들어가요.
- 레드팀
Red team - 사진 속에 몰래 글자를 심어 보는 시험. 이 분야의 레드팀도 이걸 찾아요. → 보안 마을의 레드팀
- 도구 호출
Tool calling - 그림 속 명령이 견습생에게 전해지면 심부름까지 시킬 수 있어요. AI 세계의 기본 개념이에요. → 도구 호출이 뭐예요?
다음 이야기
눈속임 그림 주문서 →