01핵심 개요
| 항목 | 내용 |
|---|---|
| 발단 | 2026년 6월 대만 컴퓨텍스 SK하이닉스 부스에서 젠슨 황이 갓 공개된 HBM4 웨이퍼에 "Please make more"라고 서명했다. SK는 2034년까지 메모리 생산 능력을 3배로 늘리는 데 약 7,200억 달러 투자를 계획 중이다. |
| 역설적 움직임 | HBM을 가장 많이 사는 엔비디아는 HBM 사용량을 줄이는 CMX(컨텍스트 메모리 스토리지)를 내놨고, HBM을 가장 많이 파는 SK하이닉스도 자사 HBM 수요를 깎아먹을 수 있는 HBF(하이 밴드위드 플래시)를 직접 추진 중이다. |
| 근거 인터뷰 | 최태원 SK그룹 회장의 최근 CNBC 인터뷰. AI를 "네 살짜리 아이"에 비유하며 앞으로 5년간 AI 에이전트 사용량이 77배, 10년 뒤 전체 메모리 수요는 현재 생산 능력의 약 5배까지 늘어날 수 있다고 전망했다. |
| 공급 제약 | HBM은 디램을 수직으로 쌓고 TSV로 연결한 뒤 패키징·고객 검증까지 거쳐야 해, 생산 능력을 의미 있게 늘리는 데 4~5년이 걸린다. 내년 고객 요구 물량은 올해의 거의 두 배로 예상된다. |
| 핵심 논리 | HBF는 HBM을 대체하는 게 아니라, 모델 웨이트처럼 크지만 자주 안 바뀌는 데이터나 오래된 KV캐시를 낸드플래시로 내려 서버 한 대당 HBM 필요량을 줄이는 역할이다. 그 결과 토큰 비용이 낮아지면 AI 사용량이 늘어 전체 메모리 수요는 오히려 커질 수 있다는 것이 화자의 해석이다. |
| 비유 | 화자는 이를 애플이 아이팟 시장을 지키는 대신 아이폰에 음악 플레이어를 내장해 더 큰 스마트폰 시장을 가져간 사례에 비유한다. |
02핵심 기능/내용 구조
영상은 컴퓨텍스에서 젠슨 황이 SK하이닉스 웨이퍼에 남긴 "더 만들어 달라"는 메시지로 문을 열어, HBM 공급 부족이라는 배경을 제시한다. 이어 두 가지 역설적 사실을 던진다. 첫째, 엔비디아가 자사 GPU 옆에 놓일 HBM 사용량을 줄이는 CMX를 발표했다는 것. 둘째, SK하이닉스가 HBM 수요 일부를 잠식할 수 있는 HBF를 직접 개발 중이라는 것이다. 영상은 이 모순을 최태원 회장의 CNBC 인터뷰에서 풀어낸다. AI 에이전트가 오래 작업할수록 늘어나는 KV캐시와 모델 웨이트 저장 부담, PC·스마트폰과 달리 예측하기 어려운 AI 에이전트의 사용 패턴, HBM 자체의 물리적 생산 제약(TSV 적층, 웨이퍼 배정 경쟁으로 인한 '칩플레이션')을 차례로 설명한다. 후반부는 CMX와 HBF가 왜 등장했는지(비싼 HBM에 모든 데이터를 둘 필요가 없다는 논리), SK하이닉스가 HBF를 밀면서도 HBM 수요를 방어하는 전략(커스텀 HBM, TSMC 로직 공정 베이스 다이, LTA 장기 계약, MaaS 검토), 그리고 마지막으로 향후 확인해야 할 변수(CMX·HBF의 실제 채택률, HBF의 신뢰성·내구성 검증)로 마무리된다.
03기술적 맥락 (HBM/HBF 메모리 기술 배경)
HBM(고대역폭 메모리)은 디램 여러 장을 수직으로 쌓고 TSV(실리콘 관통 전극)로 연결해 GPU 옆에 붙이는 방식으로, 같은 용량의 일반 디램보다 웨이퍼 생산 능력을 더 많이 소모한다. HBM에 웨이퍼 배정이 몰리면 PC·스마트폰·서버용 일반 디램 공급에도 영향을 주는데, 최태원 회장이 인터뷰에서 언급한 '칩플레이션'이 이 상황을 가리킨다. HBF(하이 밴드위드 플래시)는 낸드플래시를 8단 또는 16단으로 쌓아 프로세서 가까이에 배치하는 신기술로, 이제 막 표준이 만들어진 단계다. 낸드 특성상 HBM보다 접근 지연 시간이 길고 데이터를 쓰고 지우는 특성도 디램과 달라, 빠른 읽기·쓰기가 필요한 데이터는 여전히 HBM이 맡아야 한다. 반면 크기는 크지만 자주 바뀌지 않는 모델 웨이트나, 사용 빈도가 낮아진 오래된 KV캐시는 HBF로 옮길 수 있는 후보다. 한편 엔비디아의 CMX(컨텍스트 메모리 스토리지)는 유사한 목적으로 낸드플래시를 GPU 옆에 배치해 KV캐시 일부를 HBM 밖으로 내리는 장비로, 베라루빈 플랫폼에 실제 제품으로 탑재될 예정이다.
04전략적 의미 (SK하이닉스·메모리 업계 경쟁 구도 함의)
SK하이닉스 입장에서 HBF는 단순한 신제품 추가가 아니라, 현재 회사 실적을 견인하는 HBM의 일부 수요를 스스로 깎아낼 수도 있는 결정이다. 그럼에도 이를 추진하는 이유는 AI 서비스의 토큰당 비용을 낮춰야 사용량이 늘고, 결과적으로 HBM·HBF·SSD를 아우르는 전체 메모리 시장이 더 커질 수 있다는 판단 때문이다. 서버 구성이 'GPU+HBM' 중심에서 'GPU+HBM+HBF+SSD'로 데이터 성격에 따라 계층화되면, SK하이닉스가 공급할 수 있는 제품 범위 자체가 넓어진다. 동시에 SK하이닉스는 HBM 수요를 지키기 위한 방어 전략도 병행한다. HBM4부터 베이스 다이를 TSMC의 첨단 로직 공정으로 제작해 고객 맞춤형 커스텀 HBM을 확대하고, 이는 고객이 AI 칩 설계 단계부터 HBM을 함께 맞추게 함으로써 공급사 전환 장벽을 높이는 효과가 있다. 여기에 LTA(장기 공급 계약)와 MaaS(Memory as a Service) 같은 방식을 검토해 증설 비용과 위험을 고객과 분담하려 한다. 다만 삼성전자·마이크론도 같은 AI 메모리 수요를 보고 투자를 확대하고 있어, 수년 뒤 신규 라인이 동시에 가동되면 공급 과잉으로 가격이 무너지는 메모리 산업 특유의 사이클 위험은 여전히 남아 있다.
05핵심 워크플로우·방법론 (기술 채택 로드맵)
- 수요 진단: AI 에이전트의 KV캐시·모델 웨이트가 늘어나며 서버당 필요 메모리 총량이 급증한다는 점을 확인한다.
- 데이터 계층화: 빠르게 읽고 써야 하는 데이터(HBM 유지)와 크지만 자주 안 바뀌는 데이터·오래된 캐시(HBF·CMX로 이동 가능)를 구분한다.
- 신기술 검증: HBF는 낸드 기반이라 신뢰성·내구성·접근 지연을 AI 서버 요구 수준에 맞출 수 있는지 검증이 필요한 초기 단계다.
- 비용 절감 → 수요 확대 선순환 확인: 서버당 HBM 사용량이 줄면 서버 운영 비용이 낮아지고, 같은 예산으로 더 많은 서버·에이전트·컨텍스트를 운용할 수 있어 전체 메모리 수요가 순증할 가능성을 관찰한다.
- 공급망 락인 강화: 커스텀 HBM 설계 협업, TSMC 로직 공정 베이스 다이, LTA·MaaS 계약으로 고객을 장기간 묶어두는 전략을 병행한다.
- 증설 리스크 관리: 7,200억 달러 규모 투자를 한 번에 집행하지 않고 시장 상황을 보며 단계적으로 결정해 공급 과잉 사이클에 대비한다.
06활용 시나리오
- AI 인프라 투자자·분석가: HBM 생산량 지표만으로 메모리 시장을 판단하면 HBF·CMX로의 데이터 이동분을 놓칠 수 있다는 점을 투자 판단에 반영할 수 있다.
- 하이퍼스케일러·데이터센터 설계자: 서버 한 대에 필요한 HBM·HBF·SSD 비율을 재설계해 토큰당 비용을 낮추는 아키텍처 전환을 검토할 수 있다.
- 반도체 공급망 담당자: SK하이닉스의 커스텀 HBM·LTA·MaaS 전략을 참고해 장기 공급 계약과 공동 설계 협력 모델을 벤치마킹할 수 있다.
- 메모리 업계 경쟁사(삼성전자·마이크론): HBF·CMX 채택 속도에 따라 자사의 차세대 메모리 계층 제품 로드맵을 조정하는 참고 사례로 활용할 수 있다.
07현황 및 전망
CMX는 엔비디아 베라루빈 플랫폼에 실제 제품으로 탑재될 예정이며, 향후 관건은 하이퍼스케일러·데이터센터 고객이 이 계층을 얼마나 적극적으로 채택해 KV캐시를 HBM 밖으로 옮기느냐다. HBF는 이보다 이른 단계로, 표준이 막 만들어졌고 실제 제품·시스템 검증이 남아 있다. 특히 낸드 기반 메모리가 AI 서버가 요구하는 신뢰성·내구성 수준을 충족하면서 모델 웨이트·일부 캐시를 실제로 감당할 성능을 낼 수 있는지가 핵심 관찰 포인트다. 최태원 회장은 메모리 사이클 자체가 사라졌다고 보지는 않지만, AI로 인한 이번 수요 사이클이 과거보다 오래 이어질 가능성이 있다고 본다. SK하이닉스는 HBF가 자리 잡으면 서버당 HBM 용량은 줄어들 수 있지만, 그만큼 AI 사용량과 전체 메모리 시장이 더 커질 것이라는 베팅 위에서 움직이고 있으며, 이 베팅의 성패는 향후 실제 데이터센터 채택률로 확인될 것이다.
08용어 사전
| 용어 | 한줄설명 | 비유/예시 |
|---|---|---|
| HBM | 디램을 수직 적층해 GPU 옆에 붙이는 고대역폭 메모리 | AI 칩 성능을 좌우하는 핵심 부품, 컴퓨텍스에서 젠슨 황이 "더 만들어달라"고 서명 |
| HBF | 낸드플래시를 적층해 프로세서 가까이 두는 신형 메모리 | HBM보다 느리지만 저장 용량은 큰 '보조 창고' |
| CMX | 엔비디아의 컨텍스트 메모리 스토리지, 낸드 기반 | 오래된 KV캐시를 넣어두는 GPU 옆 보관함 |
| TSV | 디램을 수직 관통해 층간을 연결하는 실리콘 전극 | 여러 층 건물을 잇는 엘리베이터 통로 |
| KV캐시 | AI가 이전 계산 값을 저장해 재사용하는 데이터 | 대화가 길어질수록 계속 쌓이는 메모장 |
| 칩플레이션 | 메모리 웨이퍼가 HBM에 몰려 다른 제품 공급이 줄고 가격이 오르는 현상 | HBM 증설이 스마트폰·PC 메모리값도 밀어올림 |
| LTA | 고객과 미리 맺는 장기 메모리 공급 계약 | 짓기 전에 팔 곳부터 확보해두는 방식 |
| MaaS | Memory as a Service, 메모리를 서비스 형태로 제공하는 계약 방식 | 증설 비용과 위험을 고객과 나눠 지는 합작 모델 |
| 베이스 다이 | HBM 하단에서 디램과 GPU 간 데이터 이동을 담당하는 층 | HBM4부터 TSMC 로직 공정으로 제작해 고객 맞춤화 |