다섯 살도 알 수 있게 · AI

LLM이 뭐예요?

LLM(대규모 언어 모델)을 책을 산더미로 읽고 다음 말을 잘 이어 붙이게 된 앵무새 이야기로 풀어봤어요.

앵무새에게 뭘 물어도 말이 되는 대답이 나와요.수도도 알고, 시도 쓰고, 코드도 고쳐요. 어떻게 하는 걸까요?

앵무새는 뜻을 아는 게 아니라, 다음 말을 이어 붙여요.읽은 책에서 제일 자주 이어졌던 말 조각을 고르고, 또 고르고, 또 골라요. 그게 문장이 돼요.

LLM은 책을 산더미로 읽고, 다음 콩을 잘 고르게 된 앵무새예요.백과사전, 소설, 편지, 코드까지 읽었어요. 그래서 어떤 말이 와도 다음 말을 이어요 — 콩 하나씩, 한 번에 한 콩.

읽은 만큼 알아요책에 없던 건 몰라요

한 콩씩 이어요생각이 아니라 이어 붙이기

답은 초안빠르고 그럴듯해요

확인은 사람이특히 이름·숫자·날짜

앵무새는 크기가 다르고, 읽기가 끝난 뒤 특훈을 받아요.큰 앵무새는 더 많이 알지만 느리고 비싸요. 특훈은 말버릇을 고쳐요 — 존댓말, 모르면 모른다고 하기.

잘하는 게 많아요. 그런데 모르는 것도 자신 있게 이어 붙여요.그래서 앵무새 답은 초안이에요. 이름·숫자·날짜는 사람이 확인해요. 자신 있는 거짓말은 그럴듯 앵무새 이야기에서.

한 줄로

LLM = 책을 산더미로 읽고 다음 말 조각을 잘 고르게 된 앵무새. 뜻을 아는 게 아니라 이어 붙이는 거라, 답은 초안이고 확인은 사람이 해요.

Large Language Model. 방대한 텍스트로 '다음 토큰 예측'을 학습한 신경망이에요. 크기는 파라미터 수, 읽은 양은 학습 데이터, 읽은 뒤의 특훈은 파인튜닝·RLHF. 이해가 아니라 통계적 이어 붙이기라서 자신 있는 오답(할루시네이션)이 생겨요.

대규모 언어 모델 Large language model: 책 산더미 앵무새. GPT, Claude, Gemini, Llama 가 다 이 새예요.
토큰 Token: 콩 하나. 앵무새가 말을 세는 단위. → 앵무새가 말을 콩으로 세요
다음 토큰 예측 Next-token prediction: 다음 콩 고르기. 앵무새가 하는 일의 전부예요. 문장·시·코드가 다 여기서 나와요.
학습 데이터 Training data: 읽은 책 더미. 책에 없던 건 몰라요. 읽은 시점 이후 일도 몰라요(지식 컷오프).
파라미터 Parameters: 앵무새 크기. 수십억~수조 개. 클수록 더 알고, 느리고, 비싸요.
파인튜닝 · RLHF Fine-tuning · RLHF: 읽은 뒤 특훈. 말버릇을 고쳐요. → 짧은 특훈
할루시네이션 Hallucination: 자신 있는 거짓말. 모르는 것도 이어 붙여요. → 그럴듯 앵무새
프롬프트 Prompt: 조련 쪽지. 앵무새에게 시키는 방법. → 앵무새에게 주는 조련 쪽지

다음 이야기

다른 용어도 그림책으로 보고 싶다면 요청하기 →