다섯 살도 알 수 있게 · 클라우드

AI 데이터센터가 뭐예요?

AI 데이터센터를, 전력을 엄청나게 먹는 GPU 장비만을 위해 따로 지은 건물 별관 이야기로 풀어봤어요.

AI 입주사가 전력을 엄청나게 쓰는 장비를 들여왔어요.GPU 장비 한 랙은 보통 사무실 장비보다 전기를 훨씬 많이 써요.

일반 사무실 전기·냉방으론 GPU 장비를 감당 못 해요.차단기가 내려가고, 에어컨이 장비 열을 못 따라가요.

AI 데이터센터 = GPU만을 위한 전용 별관이에요.AI 전용 별관에는 GPU 장비만을 위한 전력선과 냉각 배관을 따로 깔아요.

전력 밀도가 일반 건물보다 훨씬 높아요장비 랙 한 칸에 전기가 훨씬 많이 몰려요

일반 건물보다 더 세게 식혀요에어컨 바람으론 모자라 액체 냉각까지 써요

초고속 전용 네트워크를 깔아요GPU끼리 빠르게 통신해야 해서요

전력 넉넉한 땅에만 지어요그만한 전기를 댈 수 있는 곳이 많지 않아서요

전력·냉각·네트워크·입지 모두에서 AI 전용 별관의 요구가 일반 건물보다 훨씬 높아요.그래서 AI 전용 별관은 아무 곳에나 지을 수 없어요.

AI 전용 별관은 건설비가 비싸고, 필요한 전력을 구하기도 어려워요.전력 수급 자체가 데이터센터 확장을 막는 병목이 되기도 해요.

한 줄로

AI 데이터센터 = GPU처럼 전력을 엄청나게 먹는 장비만을 위해 전력·냉각·네트워크를 따로 설계한 전용 별관.

AI 모델 학습·추론에 쓰이는 GPU/가속기는 전력 밀도와 발열이 일반 서버보다 훨씬 커서, 고밀도 전력 공급과 액체 냉각, 저지연 고속 인터커넥트(GPU 간 통신)를 전제로 설계된 전용 데이터센터가 필요해요. 건설비와 전력 확보가 새로운 병목이 돼요.

AI 데이터센터 AI data center: GPU만을 위한 전용 별관. 전력·냉각·네트워크를 따로 설계해요.
GPU/가속기 GPU / accelerator: 전력을 엄청나게 먹는 특수 장비. AI 학습·추론 계산을 일반 CPU보다 빠르게 해줘요.
전력 밀도 Power density: 장비 랙 한 칸에 몰리는 전기의 양. AI 전용 별관은 일반 건물보다 훨씬 높아요.
액체 냉각 Liquid cooling: 에어컨 바람보다 더 센 냉각 방식. GPU 발열이 에어컨 바람으로 식히기엔 너무 커서 필요해졌어요.
인터커넥트 Interconnect: GPU끼리 빠르게 통신하는 전용 배선. 이 배선이 느리면 AI 학습도 느려져요.
가상머신/컨테이너 VM / Container: 일반 사무실에서 공간을 나누는 두 방법. GPU 장비도 VM이나 컨테이너로 나눠 쓰기도 해요. → 독채 사무실과 칸막이 책상
스케일 업/아웃 Scale-up / Scale-out: 사무실을 키울지, 더 빌릴지. AI 전용 별관은 장비를 더 세게 키우면서(스케일업) 대수도 함께 늘려요(스케일아웃). → 사무실을 키울까 더 빌릴까
클라우드 서비스 모델 Cloud service model: 뼈대만/인테리어까지/완제품. GPU 인프라도 IaaS로 빌릴 수 있어요. → 셋 중 골라 빌리기

다음 이야기

다른 용어도 그림책으로 보고 싶다면 요청하기 →