김동준 카이스트 교수가 25일 서울 양재 aT센터에서 열린 국가 AI컴퓨팅 인프라 기술 세미나에서 ‘인터커넥션 네트워크(상호연결 네트워크)의 중요성’에 대해 발표하고 있다. 사진: 이계풍 기자

[대한경제=이계풍 기자] “KTX가 아무리 빨라도 승객이 없으면 무궁화호보다 못한 것처럼, 성능이 우수한 GPU(그래픽처리장치)를 많이 구매한다고 해도 효율적으로 사용하지 못하면 소용이 없습니다.”

김동준 카이스트 교수는 25일 서울 양재 aT센터에서 열린 국가 AI컴퓨팅 인프라 기술 세미나에서 ‘인터커넥션(상호연결) 네트워크의 중요성’에 대해 발표하며 이같이 강조했다.

김 교수는 컴퓨터 시스템과 인터커넥션 네트워크 분야의 세계적 권위자다. 미국 전기전자공학회(IEEE) 2025 석학회원이자 아시아 최초로 컴퓨터 아키텍처 3대 학회 명예의 전당에 헌액된 인물이다.

김 교수는 이날 AI 컴퓨팅 인프라에서 데이터 이동과 통신의 중요성을 역설했다.

그는 인터커넥션 네트워크를 도로 시스템에 빗대어 설명했다. 김 교수는 “인터커넥션 네트워크는 고속도로와 같다. 데이터가 원활하게 이동하지 못하면 아무리 좋은 GPU도 무용지물”이라고 했다.

엔비디아가 AI 컴퓨팅 시장에서 성공한 이유에 대해, 김 교수는 “엔비디아는 2016년 DGX 시스템을 출시하면서 NVLink라는 독자적인 인터커넥션 기술을 함께 개발했다”며 “GPU 성능만 좋은 것이 아니라, 그것들을 효율적으로 연결하는 기술과 이를 최적화하는 소프트웨어(NCCL)를 함께 제공한 것이 성공의 비결”이라고 설명했다.

김 교수는 2019년 엔비디아가 네트워킹 회사 멜라녹스를 인수한 사례를 들며 “젠슨황 엔비디아 최고경영자(CEO)가 말했듯이, 데이터센터와 하이퍼스케일 컴퓨팅의 가장 큰 도전 과제는 서로 어떻게 효율적으로 통신하느냐에 있다”며 “엔비디아가 인터커넥션에 투자하는 이유”라고 강조했다.

인터커넥션 네트워크의 비용 효율성에 대해서도 실용적인 관점을 강조했다. 그는 “KTX와 무궁화호의 비교처럼, 항상 가장 비싼 솔루션이 최선은 아니다. KTX는 무궁화호보다 50% 빠르지만 가격은 2배”라며 “20분 빨리 도착하기 위해 비용을 더 지불하는 것이 효율적인지 고민해야 한다. 목적지에 정시에 도착할 수 있다면, 더 저렴한 옵션이 더 효율적일 수 있다”고 했다.

김 교수는 “무조건 16차선 고속도로를 깔아야 한다는 생각보다는, 실제 수요와 활용도를 고려한 설계가 중요하다”고 덧붙였다.

이계풍 기자 kplee@

〈ⓒ 대한경제신문(www.dnews.co.kr), 무단전재 및 수집, 재배포금지〉