메타가 구형 DRAM을 재활용한다 — CXL은 HBM의 다음이 아니다

01핵심 개요

02Vistara는 무엇인가

메타가 직접 설계한 CXL Type 3 메모리 확장용 ASIC. 한쪽은 PCIe 5세대 CXL 인터페이스, 반대쪽은 DDR4 컨트롤러 — CPU의 메모리 요청을 DDR4 명령으로 바꾸는 '통역사'. 폐서버 DDR4를 정상 시스템 메모리로 재사용.

03서버 구성과 성능 격차

대역폭 차이 약 8배 + PCIe 링크 경유로 지연도 김. 그럼에도 ML 파라미터 서버 대수 최대 25% 절감, 캐시 서비스 평균 지연 29% 감소. (중반 딥링크)

04왜 느린 메모리가 이득인가 — 비교 대상의 문제

핵심은 비교 대상. CXL DDR4를 DDR5와 비교하면 당연히 느리지만, 플래시·원격 저장(수십~수백배 느림)이나 추가 서버와 비교하면 유리.

→ CXL은 연산을 빠르게 한 게 아니라 메모리 부족이 만들던 더 큰 손실을 회피.

05HBM vs CXL — 푸는 문제가 다르다

메타 Figure 2: 모든 워크로드에서 CXL 대역폭 사용량이 로컬보다 훨씬 낮음 — 저빈도 페이지만 CXL에 배치됨을 입증.

06메모리 쇼티지 해법인가 — 아니다

• CXL은 DRAM 공급 자체를 늘리지 않음. DDR4 재활용은 신규 DDR5 구매를 일부 줄일 뿐.
• 새 CXL 모듈에도 결국 새 DRAM이 들어감 → "덜 낭비"이지 "공급 확대" 아님.
• 숨은 비용: Vistara 카드·펌웨어·냉각·감시 + 서버당 약 50W 추가 전력. 재활용 재고·자체 칩·OS 설계가 가능한 메타급에서만 경제성.

07'메모리 풀' 표현 주의

Vistara는 서버마다 전용 카드 2장을 직결한 전용 보조 탱크 구조 — 여러 서버가 공유하는 공동 수영장 아님. 진짜 메모리 풀은 CXL 스위치·패브릭 매니저·주소 할당·장애 격리 필요. 2026년 스위치 기반 연구에서 공유 경로 트래픽 충돌 시 접근 지연 몇 배 증가 확인.

08소프트웨어 복잡성 — 사라지지 않고 이동

애플리케이션 수정 없이 쓸 수 있으나, 복잡성이 OS로 이동. 리눅스는 CXL DDR4를 원격 NUMA 노드로 인식, 핫/콜드 페이지를 계층 간 이동. 메타는 작업 간 빠른 메모리 쏠림으로 처리량 최대 65% 하락·강제종료를 겪어, 작업별 빠른메모리 분배 정책을 추가해야 했음. AI 서버는 HBM+DDR5+CXL+플래시 다층으로 더 복잡.

09CXL이 잘 맞는 영역

LLM 추론에서는 오래된 KV캐시·MoE의 비활성 전문가 임시 강등 후보로 거론(논문 직접 검증은 아님).

10한국 기업 시사점

삼성(CXL 2.0 기반 CMM-D, CHMU 추적 기능)·SK하이닉스(DDR5 CXL + SW 도구)·파네시아(CXL 컨트롤러·라우팅 스위치, 메모리 풀 지향). 단, CXL 성장이 곧 DRAM 판매 증가는 아님 — 컨트롤러·스위치·페이지 배치 SW·펌웨어·장애관리 등 '이질적 메모리를 하나로 묶는 능력'이 관건.

11용어 사전