지난 10일 오후 스타트업 모레가 레노버·AMD와 함께 조선팰리스서울강남에서 ‘AI 및 HPC(고성능컴퓨팅) 인프라 혁신’ 세미나를 개최했다. 사진은 모레 조형근 CSO(부사장)이 발표하는 모습. 심화영기자

모레는 GPU를 묶고 나누는 가상화 기술, 다수 노드를 효율적으로 연결하는 클러스터링 최적화 SW, AI 학습을 위한 자동화 도구 등 고유의 소프트웨어 기술 스택을 갖추고 있다. /그림:모레

[대한경제=심화영 기자] “그래픽처리장치(GPU)는 많을수록 좋다? 모레는 ‘어떻게’ 쓰느냐를 바꿉니다.” 

글로벌 AI 경쟁이 하드웨어 중심의 ‘GPU 전쟁’으로 치닫고 있는 가운데, 한국 스타트업이 효율성에 기반한 해법을 제시해 눈길을 끈다. 바로 AMD, 인텔 등의 다양한 칩에서 초거대 AI를 효율적으로 개발ㆍ운영할 수 있게 해주는 소프트웨어 개발 기업 ‘모레(Moreh)’다.

지난 10일 오후 조선팰리스서울강남에서 열린 ‘AI 및 HPC(고성능컴퓨팅) 인프라 혁신’ 세미나에서 모레 조형근 CSO(부사장)는 “AI는 단순히 GPU를 많이 확보하는 싸움이 아니라, 이를 얼마나 잘 쓰느냐의 싸움으로 바뀌어야 한다”고 강조했다.

2020년대 초 오픈AI가 GPT-3.5와 GPT-4를 공개한 뒤 초거대 AI 모델은 곧 컴퓨팅 자원, 특히 엔비디아의 GPU 물량 싸움으로 이어졌다. 

하지만 모레는 이와 다른 접근법을 택했다. 조 부사장은 “GPU를 많이 확보하는 것보다, 그것을 어떻게 효율적으로 활용할 수 있느냐가 진짜 경쟁력”이라면서 “모레는 엔비디아 ‘쿠다(CUDA)’에 종속되지 않고 다양한 AI 칩 환경에서 AI를 학습·운영할 수 있는 플랫폼을 개발했다”고 했다. 모레의 MoAI 플랫폼은 쿠다처럼 AI 모델 개발ㆍ학습ㆍ추론에 필요한 소프트웨어 스택이지만, AMD GPU를 비롯한 다양한 하드웨어에서 동작할 수 있다는 점이 특징이다.

실제 모레는 AMD GPU 기반의 초거대 AI 인프라를 구축하고, 이를 통해 세계 최초로 AMD 기반 대규모 AI 데이터센터 상용화에 성공했다. 모레는 KT 및 KT클라우드와 협력해 AMD 기반 초거대 AI 데이터센터인 KT클라우드의 ‘백석 AI데이터센터(AIDC)’를 지난해 8월 개관했다.

모레는 AMD의 MI250 GPU 1200~2000개 이상을 활용해 KT의 한국어 초거대언어모델(LLM) ‘믿음(221B 파라미터)’을 개발했고, 이 모델은 KT의 자체 AI 서비스와 클라우드 플랫폼에 실제 적용돼 운영되고 있다. 조 부사장은 “AMD GPU와 모레의 AI 프레임워크 ‘MoAI’ 조합은 기존 엔비디아 A100 + CUDA 조합 대비 학습 및 추론 성능 면에서 1.1배에서 최대 2.4배까지 향상된 벤치마크 결과를 기록했다”고 전했다.

이날 모레의 자회사 모티프테크놀로지스는 자체 개발한 소형 언어모델(sLLM) ‘Motif 2.6B’를 공개하고, 이를 오픈소스로 허깅페이스에 배포했다. ‘Motif 2.6B’는 프롬 스크래치(from scratch) 방식으로 개발된 파운데이션 모델로, AMD의 인스팅트 MI250 GPU 기반으로 구현된 최초의 공개형 AI 모델이다. 조 부사장은 “GPU 단 1개로도 추론이 가능할 만큼 경량화됐고, 슈퍼컴퓨터 없이도 구동 가능하다는 점에서 에너지 효율성과 접근성이 뛰어나다”고 했다.

그는 “AI 산업은 특정 기업의 기술에 독점적으로 의존해서는 안 된다”며 “엔비디아 GPU만이 아닌, 인텔이나 AMD GPU를 통해서도 AI 인프라를 재정의하고 충분히 고성능 저비용 AI를 학습시킬 수 있다”고 했다. 조 사장은 “AI 역량 강화를 위해 첫째는 GPU 확보가 필요하지만, 그 다음은 GPU를 잘 활용할 수 있는 소프트웨어 역량을 내재화해서 갖고 있는지 아니면 쿠다와 외부 SW에 의존하고 있느냐에 따라 효율성이 갈린다”고 했다. 

심화영 기자 dorothy@

〈ⓒ 대한경제신문(www.dnews.co.kr), 무단전재 및 수집, 재배포금지〉