테라랩, ‘차세대 HBM 로드맵(2025~2040) 버전 1.7 기술 발표회

(지디넷코리아=박희범 기자)오는 2038년 쯤되면 AI컴퓨팅이 HBM(고대역폭메모리) 중심으로 이루어질 것이라는 분석이 나왔다. 또 HBM이 3년 단위로 성능이 2배이상 개선된다는 'AI 스케일링 법칙'의 근거도 제시됐다.

김정호 KAIST 전기및전자공학부 교수는 지난 11일 열린 ‘차세대 HBM 로드맵(2025~2040) 버전 1.7 기술 발표회’에서 "HBM은 열과 전기 에너지와의 싸움"이라며 이같이 언급했다.

김 교수는 지난 2000년 초반부터 HBM을 연구, 'HBM 대부'로 불린다.  

김 교수는 첫 설명에서 살바도르 달리 화풍으로 사람과 로봇 얼굴을 합성한 오픈 AI 생성 그림을 보여주며, "결국은 인간의 노동을 AI가 상당부분 대체할 것"이라며 강연을 진행했다.

김정호 KAIST 교수

김 교수는 "2000년 초반 반도체 스택을 얘기하며 HBM이 고속 계산에 쓰일 것으로 예상했는데, 이 같은 얘기가 AI 산업화 등에 힘입어 현실이 됐다"며 "향후 15~20년은 HBM이 산업을 이끌어 갈 것"으로 예측했다.

김 교수는 또 반도체 생존과 국가안보가 HBM에 의해 결정될 것이라는 언급도 내놨다.

"현재 삼성전자와 SK하이닉스가 메모리 반도체 시장  90% 장악하고는 있지만, 시스템 IC를 비롯한 그 외 분야의 기술 및 시장확장에 더 적극적으로 대응해야 지속적인 시장 주도권을 확보할 것입니다."

김 교수는 HBM 미래방향에 대해 "3년마다 대역폭(배선(I/O)갯수, 데이터 전송속도)이 2배로 개선될 것"이라며 "대역폭이 2026년 출시될 HBM4의 경우 초당 2TB이지만, 3년 뒤인 2029년 HBM5에서는 초당 4TB가 될 것"이라며 "그러나 그 이후엔 3년마다 2배를 넘는 속도로 가속화될 것"으로 예측했다.

2035년 HBM7 대역폭이 초당 24TB, 2038년 HBM8에서는 64TB로 급격히 늘어날 것으로 내다봤다.

이외에 김 교수는 "10~20년 뒤에는 파라미터가 1천조까지 갈 것"이라며 "데이터 통신 속도가 100Gbps를 넘어서면 데이터 전송방식이 광통신으로 바뀔 것"으로 예견했다.

이어 ▲3D 메모리 근접 컴퓨팅 구조(윤지원 박사과정) ▲멀티-타워 HBM 구조 (김태수 석사과정) ▲냉각위한 임베디드 쿨링 구조 (손기영 박사) ▲LLM 을 활용한 HBM 디자인 AI 에이전트(김근우 박사과정) 등 21명의 석, 박사생들이 각각의 주제를 발표했다.

세대별 HBM 구조와 성능, 특성 ▲데이터 대역폭 확장을 위한 TSV와 인터포저 ▲딥 에칭 기술 등과 전기적 신뢰성 확보를 위한 하이브리드 본딩 기술 ▲발열 문제 해결을 위한 냉각용 TSV 기술 등도 함께 소개된다. 21명이 발표했다.

윤지원 전기및전자공학부 연구생(박사과정)은 "이번 행사를 기획하며 HBM이 우리나라 반도체 산업의 미래라는데 더 확신을 갖게 됐다, 지속적으로 우리나라 HBM 중심의 국가 경쟁력을 갖도록 하는데 기여하고 싶다"고 말했다.

김정호 KAIST 교수(맨우측 중앙)가 달리 화풍으로 만든 생성형 AI 이미지를 설명했다.

김정호 KAIST 교수가 제시한 차세대 HBM 로드맵. AI스케일링 법칙에 따라 대역폭이 진화한다.

박희범 기자(hbpark@zdnet.co.kr)

Copyright © 지디넷코리아. 무단전재 및 재배포 금지.