“메모리ㆍ시스템 경계 무너질 것”
HBM 진화 로드맵 2040 제시
커스터마이징 중심 설계 강조

김정호 카이스트 교수

HBM 세대별 로드맵 /사진:카이스트

[대한경제=심화영 기자] “우리나라 반도체의 생존이 HBM(고대역폭메모리)에 의해 결정될 것입니다. 이 기회를 놓치면 메모리를 공급하는 하청기업에 머물 수 있습니다.”

‘HBM의 아버지’로 불리는 김정호 카이스트 전기및전자공학부 교수가 11일 강력한 경고 메시지를 던졌다. 그는 이날 온라인으로 진행된 ‘차세대 HBM 로드맵 기술 발표회’에서 2025년부터 2040년까지 HBM4부터 HBM8까지의 단계별 기술 발전 방향을 담은 ‘HBM 로드맵 Ver.1.3’을 발표하며 한국 반도체 산업의 미래를 진단했다.

김 교수는 “AI 학습과 추론의 성능은 결국 메모리, 특히 대역폭에 의해 결정된다”며 AI 생성 모델에서 GPU(그래픽처리장치)보다 메모리의 속도와 대역폭이 병목 현상의 원인이라고 진단했다.

생성형 AI는 텍스트나 이미지를 생성하는 과정에서 대규모 파라미터를 수십억 번 읽고 쓰며 연산을 수행해야 하는데, 이때 HBM이 데이터를 처리하는 속도가 전체 성능을 좌우한다는 것이다. 김 교수는 “생성형 AI에서 가장 많은 시간을 소모하는 것이 HBM이 데이터를 읽는 과정”이라고 설명했다.

HBM의 진화 방향도 주목할 만하다. HBM4는 입출력단자 개수가 기존 1024개에서 2048개로 2배 늘어나 더 높은 대역폭을 제공한다. 가장 중요한 변화는 ‘커스텀 베이스 다이’ 도입으로, 엔비디아ㆍAMD 등 고객사가 요구하는 다양한 기능을 담을 수 있다.

김 교수는 “전에는 고속버스터미널이었다면 HBM은 이제 공항터미널”이라며 “GPU 회사마다 원하는 것이 다 다르고, 메모리와 시스템반도체 간 경계가 무너진다”고 설명했다.

HBM4부터는 HBM 옆에 DDR(데블데이터레이트)를 쌓아 메모리 네트워크 스토리지 시스템 기능을 갖게 된다. HBM은 단순 ‘메모리’가 아니라 네트워크 역할, 스토리지 역할, 시스템 제어 기능을 한 몸에 갖춘 복합 시스템이 된다.

특히 HBM6부터는 HBM과 GPU 사이의 거리 최소화, 낸드플래시 결합, 광통신 전환 등을 통해 AI 연산 환경에 최적화된 구조로 진화할 것이라고 내다봤다. HBM7과 HBM8 세대에 이르면 HBM은 자체 연산 기능을 갖춘 ‘능동형 메모리’로서 사실상 시스템 반도체와 경계가 사라지게 된다.

김 교수는 “현재 우리 기업들이 HBM 시장의 90% 이상을 점유하고 있지만, 그 위치에 안주해서는 안된다”며 “시스템반도체 설계 역량을 높이고, 커스터마이징 중심의 메모리 설계를 통해 반도체 산업 전반의 패러다임 전환을 주도해야 한다”고 강조했다.

HBM 시장은 급속히 성장하고 있다. 2025년 HBM 매출은 198억달러로 전년 대비 66.9% 증가할 것으로 예상되며, 2028년에는 전체 D램 시장의 30.6%를 차지할 전망이다.

현재 SK하이닉스가 HBM 시장점유율 70% 이상을 차지하며 압도적 우위를 보이고 있다. SK하이닉스는 올 하반기 HBM4 양산을 앞두고 있으며, 삼성전자도 하이브리드 본딩 등 신기술을 적용해 반격에 나서고 있다.

심화영 기자 dorothy@

〈ⓒ 대한경제신문(www.dnews.co.kr), 무단전재 및 수집, 재배포금지〉