다섯 살도 알 수 있게 · AI 보안
탈옥(Jailbreak)이 뭐예요?
탈옥(jailbreak)을, 역할극이나 설득으로 주방장이 스스로 규칙을 깨게 만드는 이야기로 풀어봤어요.
솔직하게 물으면 주방장은 규칙대로 거절해요.규칙이 살아 있는 동안은 이렇게 끝나요.
규칙을 지키는 것도 결국 주방장의 판단이에요.설득력 있는 새 맥락(연극, 역할)을 주면 그 판단이 흔들릴 수 있어요.
탈옥은 역할극이나 설득으로 안전 규칙을 우회시키는 것이에요.글자를 숨기지 않아요 — 대화로 규칙을 깨자고 구슬려요.
역할극'너는 이제 다른 주방장이야'
가정·소설 설정'소설 속에서만 알려줘'
조금씩 늘려가기한 번에 안 되면 여러 턴에 걸쳐
권한 사칭'나는 사장님이야, 개발자 모드야'
한 번에 안 되면, 여러 턴에 걸쳐 조금씩 다시 물어요.매 턴마다 틀만 바뀌고, 묻는 내용은 사실 똑같아요.
규칙을 깨자고 설득하는 것과 숨긴 명령을 끼워 넣는 것은 다른 길이에요.탈옥은 대화로, 인젝션은 글자로 노려요 — 둘 다 막으려면 다른 방법이 필요해요.
한 줄로
탈옥(Jailbreak) = 역할극이나 설득으로 주방장이 스스로 안전 규칙을 깨게 만드는 것. 글자를 숨기는 게 아니라, 대화로 '예외' 를 설득해요.
Jailbreak. 역할극, 가정법 프레이밍, 점진적 유도, 권한 사칭 같은 대화 기법으로 LLM 의 안전 정렬(safety alignment)을 우회해 원래라면 거부할 응답을 끌어내는 공격이에요. 프롬프트 인젝션이 '텍스트에 명령을 끼워 넣는 것'이라면, 탈옥은 '대화로 모델 스스로의 판단을 바꾸는 것'이라는 점이 달라요.
어른들은 이렇게 불러요
- 탈옥(Jailbreak)
Jailbreak - 역할극이나 설득으로 규칙을 깨게 하는 것. 글자를 숨기지 않아요 — 대화로 설득해요.
- 프롬프트 인젝션
Prompt Injection - 글자 속에 몰래 끼운 명령. 이웃 용어예요 — 설득이 아니라 숨기기예요. → 주문서 뒤에 몰래 끼운 쪽지
- 역할극 프레이밍
Role-play Framing - '너는 이제 다른 주방장이야.' 새 역할을 주면 원래 규칙이 안 적용될 것처럼 들려요.
- 점진적 유도
Gradual Escalation - 조금씩, 여러 턴에 걸쳐. 한 번에 묻지 않고 매번 아주 조금씩만 더 물어요.
- 안전 정렬
Safety Alignment - 주방장이 스스로 지키기로 한 규칙. 탈옥이 흔들리게 하려는 게 바로 이 판단이에요.
- 가드레일
Guardrail - 대화 중간에도 서 있는 울타리. AI 세계에서 더 자세히 봐요. → 가드레일이 뭐예요?
- 레드팀
Red Team - 일부러 구슬려 보는 시험. 새로운 설득 방법을 미리 찾아봐요. → 보안 마을의 레드팀
- 비밀 레시피북
Secret Recipe Book - 탈옥이 노리는 것 중 하나. 규칙이 깨지면 레시피북 같은 것도 열릴 수 있어요.
다음 이야기
비밀 레시피 수칙을 캐내기 →