KAIST 김정호 교수님의 HBM 한국 반도체 로드맵

이번글은 KAIST 김정호 교수(전자 및 전기공학부)님이 출연한 반도체의 로드맵에 대한 요약정리 글입니다. AI 시대의 핵심인 HBM(고대역폭 메모리) 반도체의 현재 도전 과제와 HBM4부터 HBM8까지의 미래 발전 로드맵을 제시하며 한국 반도체 기업의 나아갈 방향을 설명합니다.

HBM

1. 현재 HBM이 직면한 핵심 문제

현재 AI 반도체 시스템(GPU+HBM)의 병목 현상은 GPU가 아닌 HBM에서 발생하고 있습니다.

• 성능 병목: 엔비디아의 GPU는 대부분의 시간 놀고 있으며, HBM이 데이터를 빠르게 공급하지 못해 시스템 전체 성능이 저하됩니다 [01:31, 15:52].
• 미래 요구 성능 (1,000배): 현재 텍스트 중심인 생성형 AI가 미래에 영상 중심(예: 1시간짜리 영화를 1분 만에 생성)으로 발전하려면 HBM의 대역폭과 용량이 지금보다 1,000배 이상 높아져야 합니다 [07:13, 09:06].
• 발열 및 신뢰성: GPU의 열이 HBM으로 전달되면 메모리 셀의 전자가 새는 현상(Leakage)이 발생하여 데이터 오류 및 성능 저하를 일으킵니다 [32:17]. 이 문제를 해결하지 못하면 학습 도중 시스템이 셧다운될 수 있습니다 [03:41, 01:21:32].

2. HBM 기술의 진화 로드맵 (HBM4 → HBM8)

HBM은 대역폭, 용량, 냉각, 구조 등 모든 면에서 급진적인 변화를 겪으며 HBM 센트릭 컴퓨팅 시대로 나아갈 것으로 예측됩니다.

세대	변화 시점 (예상)	주요 기술 변화 및 특징
HBM4	현재 개발 중	베이스 다이 역할 강화: 베이스 다이(로직 다이)에 GPU 기능 일부 통합 시작 [04:04, 55:52]. 메모리 타운 시발점: GPU 옆에 LPDDR 메모리 배치 시작 [57:57].
HBM5/6	5~6년 후	본딩 기술 변화: 기존 TC 본딩에서 카파-투-카파 다이렉트 본딩으로 전환 (열 통과에 유리) [55:05, 01:09:07]. 냉각 전환: 이머전 쿨링(컴퓨터 전체를 냉각수에 담금) 도입 [40:09, 55:28]. TSV 격자 배치: TSV(엘리베이터)가 데이터 전송 외에 전력 공급 및 열 방출(TTV) 역할까지 수행하며 격자 형태로 다수 배치 [01:07:08, 01:08:13]. 기판 대형화: 실리콘 대신 유리 기판(글래스 인터포저) 사용 시작 [01:12:10].
HBM7	2030년경	낸드 플래시 적층: HBM 옆에 낸드 플래시 메모리(HBMF) 적층 시작 (1,280층 이상) [01:12:47]. 냉각 혁신: 임베디드 쿨링 (냉각수가 반도체 다이 안으로 직접 통과) 도입 [41:15, 01:13:31].
HBM8	2038년경	3D 통합: GPU/HBM 타운을 위아래 양쪽으로 구축 (지하 포함) [01:13:40]. HBM 센트릭 컴퓨팅: HBM 내부에 CPU/GPU 기능을 통합하여 메모리가 컴퓨팅을 주도하는 구조로 전환 시도 [01:14:08, 49:15].

 

3. 한국 반도체 기업에 대한 시사점

HBM의 중요성이 커질수록 메모리 기업의 영향력이 확대되며, 한국 기업은 기술 우위를 위해 다음과 같은 전략을 취해야 합니다.

• 메모리 기업의 기회: AI 시대는 메모리가 더 중요해지는 시대이므로 삼성전자와 SK 하이닉스 등 메모리 기업에 큰 기회가 될 것입니다 [01:02:33, 01:18:50].
• SK 하이닉스: 엔비디아/TSMC 중심의 에코시스템 내에서 HBM을 공급하며 기술 리더십을 유지하는 전략 [56:04].
• 삼성전자: GPU 파운드리, HBM 베이스 다이 설계, HBM 적층, 패키징까지 모두 아우르는 토탈 솔루션을 제공할 새로운 에코시스템을 구축하는 것이 필요 [56:32, 01:02:04].
• HBM4 이후의 경쟁: HBM4부터는 HBM 베이스 다이의 성능이 중요해지며, HBM5부터는 삼성과 하이닉스의 경쟁이 50대 50으로 예측 불가능할 정도로 치열해질 수 있습니다 [01:23:10].
• 핵심 메시지: 발열과 신뢰성 문제 해결이 핵심 기술력을 입증하는 길이 될 것이며, 이 전쟁에서 승리해야 한국 반도체 산업의 생명이 유지될 수 있습니다 [01:21:04].

출처: https://youtu.be/W7Ok3bsEKfk?si=FaJJpukJf-HiZGZJ

6월에 이 영상을 보았어야 했는데 이제야 발견해서 아쉽지만 앞으로 한국 반도체의 폭넓은 발전을 기대하며 정리해 보았습니다. 한국에 이런 분이 계시다는 게 자랑스럽습니다.