사전 학습이 뭐예요?
사전 학습을 책을 가리고 다음 콩을 맞히는 문제를 수조 번 풀리는 앵무새 학교 이야기로 풀어봤어요.
알에서 나온 앵무새는 콩 하나도 못 이어요.말 잘하는 앵무새는 어디서 왔을까요? 책을 산더미로 읽었다고 했죠 — 그 읽기는 어떻게 하는 걸까요?
책을 통째로 읽히는 건 큰 학교와 몇 달과 큰돈이 드는 일이에요.계산기 수천 대가 밤낮으로 돌아요. 전기 계량기는 끝까지 올라가고, 달력은 몇 장씩 넘어가요. 그래서 큰 앵무새는 몇 곳에서만 길러요.
사전 학습은 답을 가르치지 않고, 책을 가리고 다음 콩을 맞히게 하는 학교예요.책 자체가 정답표예요. 틀리면 머릿속 눈금을 조금 고치고, 다음 줄로 넘어가요. 이걸 수조 번 하면 책 산더미 앵무새가 돼요. 학교 뒤엔 특훈과 예절 교육이 이어져요.
더 많이 읽고 더 크면 더 잘 맞혀요. 그리고 학교가 끝이 아니에요.책·크기·계산을 함께 키우면 앵무새가 꾸준히 좋아져요 — 한 줄로 말하면 크게, 많이 = 잘함. 학교가 끝나면 짧은 특훈으로 말버릇을, 예절 교육으로 태도를 고쳐요.
학교만 마친 앵무새는 말은 잘 잇지만, 예절도 모르고 최근 일도 몰라요.시키는 대로 하는 법은 예절 교육에서 배워요. 책을 덮은 날 뒤의 일은 책을 덮은 날 이야기에서 — 그건 학교가 아니라 사서가 채워요.
사전 학습 = 앵무새 학교에서 책을 가리고 다음 콩 맞히기를 수조 번 풀리는 것. 답을 가르치지 않고 책 자체가 정답표예요. 틀리면 눈금을 조금 고쳐요. 책이 많고 새가 클수록 잘하지만, 학교 뒤에 특훈과 예절 교육이 있어야 해요.
Pre-training. 방대한 텍스트 코퍼스로 다음 토큰 예측을 자기지도 학습하는 단계예요. 예측과 실제 토큰의 차이(손실)를 줄이도록 경사 하강으로 파라미터를 조금씩 갱신해요. GPU 수천 대로 수주~수개월, 큰 비용이 들고, 데이터·파라미터·연산을 함께 키우면 성능이 예측 가능하게 오르는 스케일링 법칙이 있어요. 이후 파인튜닝과 정렬(RLHF 등)이 이어져요.
어른들은 이렇게 불러요
- 사전 학습
Pre-training - 책 읽는 학교. 다음 콩 맞히기를 수조 번. 말 잘하는 앵무새는 여기서 나와요.
- 자기지도 학습
Self-supervised learning - 책을 가리고 맞히기. 사람이 답을 적어 주지 않아요. 책 다음 줄이 그대로 정답이에요.
- 학습 데이터 · 코퍼스
Training data · Corpus - 학교의 책 산더미. 많고 깨끗할수록 앵무새가 좋아져요. 나쁜 책도 섞이면 나쁜 말도 배워요.
- 손실
Loss - 틀린 정도. 채점 쪽지의 숫자. 학교는 이 숫자를 줄이는 쪽으로만 눈금을 고쳐요.
- 스케일링 법칙
Scaling laws - 크게, 많이 = 잘함. 책·새·계산을 같이 키우면 얼마나 좋아질지 미리 셈이 돼요.
- GPU · 학습 비용
GPUs · Training cost - 계산기 수천 대와 전기 계량기. 몇 달, 큰돈. 그래서 큰 앵무새 학교는 몇 곳뿐이에요.
- 파인튜닝
Fine-tuning - 학교 뒤의 짧은 특훈. 말버릇과 특기를 고쳐요. → 짧은 특훈
- 지식 컷오프
Knowledge cutoff - 책을 덮은 날. 그 뒤 일은 학교에서 못 배웠어요. → 책을 덮은 날