수백여대 첨단 GPU 가득한 전산실

총연산 88.5PFㆍ저장능력 107PB

노트북 50만대 처리량 1초면 ‘OK’

NHN클라우드가 설계ㆍ시공ㆍ운영

김동훈 대표 “멀티AI GPU 팜” 제시

“복수 장치로 빠르게 AI 모델 학습”

광주 북구 첨단과기로에 위치한 ‘국가 AI 데이터센터’ 전경. 사진: NHN클라우드 제공

[대한경제=이계풍 기자] 지난 21일 광주 북구 첨단과기로 광주과학기술원(GIST) 맞은편 거대한 흰색 건물. 국내 최초로 문을 연 인공지능(AI) 특화 데이터센터, ‘NHN 국가 AI 데이터센터’이다.

이곳은 글로벌 상위권 수준의 초고사양 컴퓨팅 자원을 도입한 AI 특화 데이터센터로, 대규모언어모델(LLM) 등 초고성능 AI 수요 시대에 대응하고자 건립됐다. 국내 데이터센터 선도기업인 NHN클라우드가 설계부터 시공, 운영까지 직접 참여했다.

이 곳에선 기업 이용자들에게 고성능 AI 가속기를 제공해 딥러닝 학습, 데이터 분석 및 활용을 지원, AI 연구 개발에 최적화된 인프라를 제공한다. 아울러 첨단 인프라 외에도 이용자가 AI 서비스ㆍ제품을 개발하는데 필요한 개발도구와 데이터 수집, 가공, 분석에 필요한 데이터 레이크 등을 통합 지원한다.

이곳은 총연산 능력 88.5페타플롭스(PFㆍ1초당 1000조번 연산 처리), 총 저장 용량 107페타바이트(PB) 규모의 인프라를 갖추고 있다. 이는 1테라바이트(TB) 하드디스크 10만7000여개의 저장 용량과 맘먹는 규모다. 88.5PF는 일반 업무용 노트북 50만대 연산처리량을 단 1초만에 수행할 수 있다는 의미다.

◇‘H100’ 1000개 돌리는 국가 AI 데이터센터… GPU 특화 설계로 전력 문제도 해결

국가 AI 데이터센터 전산실 내부 모습. 사진: NHN클라우드 제공

데이터센터의 ‘심장’ 전산실에 들어가자 굉장한 기계음이 귀를 자극했다. 수백여 대의 첨단 그래픽처리장치(GPU)가 요란한 소리를 내며 연산처리를 진행하고 있었다. 

국가 AI 데이터센터는 2곳의 전산실 중 1곳을 GPU 서버로 구성했다. 통상 ‘x86’ 중앙처리장치(CPU) 모델을 쓰는 일반 데이터센터와 달리 엔비디아의 고성능 GPU ‘H100’ 1000여대로 구축했다. 품귀현상을 빚고 있는 ‘귀한’ 고성능 GPU를 대량 확보한 덕분에 짧은 시간 내 방대한 데이터의 딥러닝(컴퓨터가 스스로 외부 데이터를 조합ㆍ분석해 학습하는 기술)이 가능하다.

GPU의 단점으로 꼽히는 높은 전력 소모량 문제도 GPU 특화 설계로 해결했다. NHN클라우드 윤용수 데이터센터엔지니어링실 기술리더(이사)는 “GPU의 전력 소모량은 CPU 대비 최대 50배 많다”며 “지난 10여 년간 데이터센터를 직접 운영해 온 경험과 노하우를 바탕으로 축적해 온 설계 기술을 국가 AI 데이터센터에 반영했기 때문에 GPU의 무중단 운영이 가능하다”고 설명했다.

실제 NHN클라우드가 국가 AI 데이터센터에 구축한 서버랙(Rack, 서버-통신장비 등 시스템 구성 장비를 보관하는 틀)의 전력밀도는 한대당 15kW 수준이다. 이는 한국데이터센터에너지효율협회(KDCEA)가 발표한 국내 데이터센터의 랙당 사용 평균 전력밀도(4.8kW)보다 3배가량 높고, H100의 요구 조건(10kW)도 훨씬 웃도는 수준이다.

또한, 서버랙당 전원공급장치(PSU)도 최대 4개까지 설치돼 있고, 필요시 다른 서버룸에서 전력을 끌어쓸 수 있는 구조로 설계해 안정적인 전기 공급이 가능하다.

◇AI 데이터센터 특화 공조 시스템 적용… 에너지 절감 효과도 ‘톡톡’

데이터센터는 고열에 취약한 장비 및 설비를 운용하는 특성상 적정 온도인 25도 안팎을 유지하는 게 중요하다. 국가 AI 데이터센터에는 CPU보다 발열량이 많은 GPU 기반의 서버가 즐비해 있었지만, 덥기는커녕 오히려 쾌적함이 느껴질 정도였다. 아프트 3층 높이와 맘먹는 7.5ｍ의 높은 층고로 지어진 설계 방식 덕분이다.

천장부를 일종의 냉기 보관 공간처럼 설계했다. 장비에서 발생하는 열로 내부 온도가 쉽게 변화하지 않도록 공간을 넓힌 개념이다. 또한, 천장부에 열을 빼기 위한 대형 팬과 냉기코일을 설치해 공기의 순환을 끌어올렸다.

또한, 바닥면에서 냉기를 공급해 쿨링(cooling) 효율이 떨어지는 기존 데이터센터와 달리 서버랙이 설치된 벽면에서 직접 냉기를 공급하는 ‘월타입 쿨링(WCU)’ 시스템을 적용했다.

설비적으로는 컨테인먼트(Containment)에 변화를 줬다. 컨테인먼트는 장비에서 발생하는 열기와 냉기가 섞이지 않도록 돕는 일종의 온도관리장치다. NHN클라우드는 서버랙 뒷부분을 완전 밀폐한 방식으로 컨테인먼트를 설계해 열기의 흐름을 완벽 차단했다.

윤 이사는 “높은 층고 설계로 전산실 내부에 여유 공간이 생기면서 가정용 선풍기 292대를 동시에 가동할 때 생기는 것과 맘먹는 88만CMH(㎥/hr) 수준의 풍략을 확보하게 됐다”며 “많은 풍량으로 열기를 식히기 때문에 급속 냉방에 따른 전력 소모가 줄어드는 원리”라고 말했다.

김동훈 NHN클라우드 대표는 “NHN클라우드는 누구나 쉽게 AI 서비스를 개발할 수 있는 환경을 만드는 게 목표”라며 “국가 AI 데이터센터를 시작으로 AI 인프라 시장을 이끌어 갈 것”이라고 강조했다.

광주=이계풍 기자 kplee@

〈ⓒ 대한경제신문(www.dnews.co.kr), 무단전재 및 수집, 재배포금지〉