01핵심 개요
| 항목 | 내용 |
|---|---|
| 한 줄 요지 | AI 경쟁의 무게중심이 모델 성능에서 모델을 굴리는 인프라(메모리·냉각·연결·전력)로 이동 |
| 핵심 논리 | 스케일링 법칙 — 성능 10배에 데이터 10배·연산 100배 → 자원 기하급수 증가 |
| 투자 관점 | 누가 이길지(모델) 맞히기 어렵다 → 모두가 지나가며 내는 통행료(병목 해결사)에 투자 |
| 4대 병목 순서 | ① 메모리 → ② 열(냉각) → ③ 연결망 → ④ 전력 |
| 한국 위치 | 병목 해결 IP의 양산·패브리케이션 파트너로 선택될 확률 높음 |
02모델 경쟁에서 인프라 경쟁으로
미국·중국 모델 격차는 평균 능력에선 2.7%까지 좁혀졌지만(스탠퍼드), 최전선 난제 해결력에선 8개월까지 벌어짐(NIST). 둘 다 사실 — 바닥은 상향 평준화, 난제는 더 벌어짐. 어려운 문제를 풀려면 천문학적 자원이 필요하고, 그 자원을 댈 수 있는 소수 기업만 결승에 진출. (인프라 전환 구간 — 4:23)
빅4 하이퍼스케일러(MS·구글·아마존·메타)의 CAPEX 성장률은 30%→50%→70%→100%로 매년 가속. 2026년 투자 규모는 한국 국가 예산에 맞먹는 수준 — 대부분 GPU와 물리 인프라에 투입.
03AI가 답을 만드는 2단계와 메모리 병목
답이 길어질수록 차지하는 메모리(KV 캐시)가 폭증. 컨텍스트 윈도우는 3년간 약 5,000배 증가 → HBM이 GPU 옆에서 데이터를 굶기지 않게 공급. 그러나 HBM도 적층의 물리적 한계 존재. (디코드·KV캐시 — 13:04)
044대 병목 순차 개방
| 순서 | 병목 | 한계 | 해결 플레이어/기술 |
|---|---|---|---|
| 1 | 메모리 | HBM 공급 부족·적층 한계 | 삼성·SK하이닉스·마이크론(HBM), TSMC(패키징), HBF·메모리 풀링 |
| 2 | 열 | 공랭 한계, GPU 발열 폭증 | 직접칩냉각(DTC)→액침·상변화 냉각 / 버티브·슈나이더 |
| 3 | 연결망 | 구리선 속도·발열·신호 감쇠 | 광연결(CPO·실리콘 포토닉스), 크레도·아스트라랩 |
| 4 | 전력 | 데이터센터 전력 밀도 폭증 | SMR(소형모듈원전) 등 차세대 전원 |
엔비디아 NVL72 서버 1대(GPU 72개)의 전력 밀도는 가정집 1년 전기와 맞먹고, 서버 한 대에 구리선만 3.6km. 데이터센터 착공 후 오픈 지연의 상당수가 열 관리 때문. (열·냉각 병목 — 21:44)
05통행료 투자 — 진짜 표준이 되는 회사 4기준
엔비디아의 POC·전략적 투자·파트너십은 중요한 검증 신호. 단 "엔비디아 투자=성공"은 아님 — 빅테크는 여러 후보를 저인망식으로 검증 중. (표준 판별 4조건 — 25:56)
06토큰이 인건비를 대체한다
연봉이 아니라 토큰 효율(스케일 임팩트 멀티플라이어)로 채용 판단이 바뀜. 토큰을 2배 쓰며 4인분 하는 사람 vs 10배 쓰며 150인분 하는 사람. 평가지표가 KPI·OKR에서 '아웃컴 덴서티 스코어'로 이동. 기업 도입의 핵심은 마지막 1마일(라스트 마일 레졸루션)의 해상도 — 도메인 전문성 + 컴퓨팅 파워.
07패권·한국 관점
딥시크는 구형 칩을 칩단까지 직접 제어해 알고리즘 효율로 성능을 냄 → 중국은 우회·스케일아웃으로 도전하지만 수출 제재 하에서 따라잡기 어려움. 중국은 피지컬 AI·독자 냉각·실리콘 포토닉스·4세대 SMR로 다음 전장 대비. 한국은 병목 해결 IP의 양산 파트너(두산에너빌리티·HD 등)로 선택받을 가능성.
08용어 사전
| 용어 | 한줄 설명 | 비유/예시 |
|---|---|---|
| 스케일링 법칙 | 성능 10배엔 데이터 10배·연산 100배 필요 | 키 키우려면 밥을 기하급수로 더 먹는 셈 |
| KV 캐시 | 앞서 만든 토큰 계산값을 미리 저장하는 메모리 | 답안지를 매번 다시 안 풀게 메모해 둠 |
| HBM | GPU 옆에 쌓아 데이터를 빠르게 공급하는 적층 메모리 | GPU 식당 옆 식자재 창고 |
| CPO | 칩에 광통신을 직접 붙여 신호를 쏘는 연결 기술 | 구리선 대신 광케이블로 칩끼리 대화 |
| 라스트 마일 레졸루션 | 마지막 1마일의 정밀도가 기업 도입을 좌우 | 마지막 마무리가 품질을 결정 |
| SMR | 소형모듈원전, 4세대 원전 | 대형 발전소를 모듈 단위로 작게 |