AI 병목은 GPU·HBM을 넘어 전력·냉각·광네트워크·데이터로 이동한다.

01핵심 개요

• 김지현 SK쇼팩스 AI 위원회 부사장은 장기 투자에서 기술과 실적 가능성을 함께 보고, 짧아도 1년 반 이상을 내다본다고 말했다.
• AI 모델 경쟁의 첫 병목은 GPU였고, GPU당 HBM 탑재량 증가와 수요 확대에 따라 병목이 메모리로 옮겨갔다고 설명했다.
• HBM 생산 확대가 D램 공급과 가격에 영향을 주며, 온디바이스 AI 확산도 LPDDR 계열을 포함한 D램 수요를 높일 수 있다고 봤다.
• 데이터센터가 1GW·10GW·20GW 규모로 커질 경우 전력, 수냉·액침냉각, 광 네트워크가 후속 병목이 될 수 있다고 제시했다.
• 공개 인터넷 데이터가 부족해지면서 바이오·제조·조선소 등의 비공개 물리 데이터를 수집·아카이빙하는 기업과 솔루션을 주목해야 한다고 말했다.

02핵심 주장 / 논점 구조

• 기술 하나만 보지 말고 원천기술, 상품화 기업, 솔루션 공급 기업, 서비스 기업으로 레이어를 나눠 봐야 한다고 말했다.
• 기반 인프라를 제공하는 기업이 먼저 수익을 내고, 이후 서비스 기업과 이를 돕는 솔루션 기업으로 기회가 분산되는 흐름을 제시했다.
• AI 투자에서는 현재의 병목을 해결하는 기업을 찾고, 다음 병목을 긴 호흡으로 예상해 기다리는 방식이 중요하다고 설명했다.
• 같은 병목 관련 기업이라도 기술 투자, 실제 실적, CEO 리더십, 조직, 제휴와 공급 관계를 별도로 조사해야 한다고 말했다.

03GPU에서 HBM·D램으로 이어진 메모리 병목

• 오픈AI와 앤트로픽 같은 모델 기업이 성능 경쟁을 위해 컴퓨팅 자원을 필요로 하므로 첫 번째 병목은 GPU였다고 설명했다.
• GPU만으로는 충분하지 않고 빠른 HBM이 필요하며, GPU 하나당 HBM이 예전 4개에서 현재 8개로 늘었다고 언급했다.
• HBM은 D램을 적층하는 기술이 필요하며, 삼성전자·SK하이닉스와 뒤따르는 마이크론을 주요 생산 기업으로 거론했다.
• HBM 생산 비중 확대는 일반 D램 공급을 줄일 수 있고, 스마트폰·컴퓨터 수요와 맞물려 D램 가격에도 영향을 준다고 설명했다.
• 메모리 3사의 수익성은 예전 10% 수준에서 현재 70%를 넘는다고 언급하며 HBM과 D램의 동시 가격 상승을 설명했다.

04온디바이스 AI와 NAND 플래시·SSD 수요

• 아이폰 18 Pro의 핵심 기능으로 AI를 언급하며, 기기 내부에서 AI를 구동하는 온디바이스 AI에는 더 빠르고 많은 메모리가 필요하다고 말했다.
• 온디바이스 AI 확산은 일반 D램보다 빠른 LPDDR 계열 메모리 수요를 늘릴 수 있다고 설명했다.
• 램은 전원이 꺼지면 데이터가 사라지는 휘발성 메모리이며, 장기 저장 데이터는 NAND 플래시 기반 SSD에 저장한다고 비유했다.
• AI 활용에서 컨텍스트와 데이터 용량이 커지면 램만으로 저장하기 어려워 NAND 플래시와 SSD 수요가 늘 수 있다고 봤다.
• 삼성전자와 SK하이닉스가 메모리뿐 아니라 비휘발성 NAND 플래시도 생산하며, 저장장치 가격도 오르고 있다고 언급했다.

05대형 데이터센터의 전력과 냉각 과제

• GPU·메모리·NAND 플래시 병목 이후에는 데이터센터 전력이 다음 병목이 될 수 있다고 전망했다.
• 1GW, 10GW, 20GW 데이터센터가 필요해질 수 있으며, 한국이 20GW까지 지향한다고 언급했다.
• 현재 한국 데이터센터 규모를 약 1.5GW로 추정하며, 10년 뒤에는 10배 이상 늘어날 수 있다고 말했다.
• 전력 공급원으로 그린에너지, SMR, 별도 화력발전소, 연료전지 등이 거론된다고 설명했다.
• GPU와 HBM의 고속화로 열 발생이 커지므로 공냉식에서 수냉식·액침냉각으로 전환하는 흐름을 제시했다.

06광 네트워크와 냉각 소재의 후속 기회

• 공냉식은 선풍기 구동에 전력을 많이 쓰므로 수냉식 냉각으로 전환하려는 작업이 진행되고 있다고 말했다.
• 수냉식 확대 시 파이프, 냉매 등 열을 빠르게 식히는 부품·소재·설비 기업의 매출이 늘 수 있다고 설명했다.
• CPU·GPU·HBM·LPDDR 사이에서 구리선으로 전기 신호가 오가면 열과 손실이 발생한다고 말했다.
• 대륙 간에는 해저 광케이블이 쓰이지만, 데이터센터 내부의 랙·서버·칩 사이는 아직 구리선이 대부분이라고 설명했다.
• 광케이블, CPO, 광 소재와 네트워크 설비 기업이 기회를 얻을 수 있으며 루멘텀 홀딩스를 사례로 들었다.

07학습 데이터 부족과 기업 조사 방법

• 최첨단 AI 모델이 인터넷 공개 데이터로 학습했지만 더 좋은 학습 데이터가 부족해지고 있다고 말했다.
• 저작권을 둘러싼 분쟁과 합의가 데이터 희소성을 보여주는 징후이며, 기업 내부의 산업별 비공개 데이터가 중요해질 수 있다고 설명했다.
• 바이오, 제조 공장, 조선소 등의 물리 데이터는 아직 디지털화되지 않은 경우가 있어 측정·아카이빙·학습용 공급 역량이 중요하다고 봤다.
• 전통 기업의 데이터 수집 역량을 보완하는 데이터베이스 구축 및 데이터 솔루션 기업도 다음 수혜 후보가 될 수 있다고 말했다.
• AI에는 투자 여부를 직접 묻기보다 최근 1~3년 사업, 매출 비중, 특허, 기술 혁신, 상품·솔루션과 실적을 조사하도록 활용해야 한다고 조언했다.

08용어 사전