안될공학MORNING DIGEST · 2026-06-09 · 안될공학🎬 영상
AI 산업의 다음 병목 — 칩·전력·추론·피지컬 AI
안될공학(레이)이 실리콘밸리 Asia2G Capital의 BeyondAsia Tech Summit(플러그앤플레이 테크센터)을 참관하고, AI 투자자들이 주목하는 "다음 병목"을 정리한 참관기.
01핵심 개요
| 항목 | 내용 |
|---|
| 채널 | 안될공학 (레이) |
| 형식 | 실리콘밸리 VC 서밋 참관기 |
| 핵심 주제 | AI 경쟁력의 무게중심이 "모델"에서 "병목 해소 인프라"로 이동 |
| 3대 병목 축 | 물리적 병목 / 조직 내부 병목 / 현실 세계(피지컬) 병목 |
| 핵심 메시지 | 한국은 단순 부품 공급자를 넘어 시스템·SW·자본 네트워크까지 연결해야 주도권 확보 |
02AI 플라이휠 — 산업이 도는 구조
발표자(정지훈 박사)는 AI를 단일 모델 경쟁이 아니라 플라이휠(회전 가속 구조)로 정의한다.
- 칩 → 데이터센터 가동 → 모델 확대 → 서비스·로봇 출시 → 매출 발생 → 다시 칩·전력 인프라 재투자.
- 핵심: 한 단계의 출력이 다음 단계의 입력. 연결이 빨라질수록 산업 전체 회전 속도 가속.
- 빅테크의 CapEx 확대가 곧바로 AI 매출이 되지 않음 — 부지·전력·냉각·서버·네트워크·고객 워크로드 등 흡수 병목 존재.
- 결론: 플라이휠 속도를 CapEx 규모만으로 보는 건 단순한 시각. CapEx가 얼마나 빨리 매출로 흡수되는가가 관건.
033대 병목 — MECE 분해
병목 1 — 물리적 병목 (제조·인프라)
- GPU를 넘어 HBM·첨단 패키징(CoWoS·인터포저·PCB 기판)으로 공급망 핵심 이동.
- 수혜: SK하이닉스·삼성전자·마이크론 등 메모리 + 기판 업체.
- 전력·그리드·지역 인허가가 새 병목. 엣지 디바이스 추론 확대로 피지컬 AI 병목도 부상.
병목 2 — 조직 내부 병목 (기업 운영)
- 기업 문서는 단순 PDF가 아님 — 계약서·규정·도면·DB가 복잡하게 얽힘. 단순 RAG(벡터 유사도 검색)로는 부족.
- Search 계열 스타트업: 기업 지식의 구조·관계·변경 이력을 이해하는 검색 인프라 지향.
- AI ROI 측정 문제: 코드 생성량 ≠ 생산성. 검증 없이 통과시키면 기술 부채·보안 리스크 누적.
- 비유: 증기기관을 공장에 그대로 끼우면 효과 제한적 → 공장 배치(업무 프로세스) 재설계 후 생산성 폭발. AI도 동일.
병목 3 — 현실 세계 병목 (피지컬 AI)
- 로봇·드론·자율주행·방산은 현실 데이터 수집이 어렵고 비쌈(특히 예외·위험 상황).
- 게임사의 가상세계 제작 역량 → 합성 데이터 공장으로 전환 가능(NCAI 등).
- 노매딕 드론: 전력망 위에 참새처럼 앉아 무선 충전 → 1년 이상 자율 점검. 미국·유럽 광역망에 최적.
- 방산 AI(어플라이드 인튜 등) = 통신 단절·센서 불안 등 극한 환경 → 피지컬 AI의 테스트베드.
04핵심 등장 플레이어 / 방법론
| 플레이어 | 영역 | 핵심 포인트 |
|---|
| 하이퍼엑셀 | 추론 특화 칩(LPU) | 학습→추론 전환으로 토큰당 원가가 핵심. Prefill/Decode 병목 차별 대응 |
| 바이올로젠 | 수소 에너지 | 천연가스→수소→연료전지. 미국 전기료 대비 30% 저렴, 배출물은 물뿐. 온사이트 모듈 전력 |
| Search 계열 | 엔터프라이즈 검색 | 단순 RAG가 아닌 지식 구조·관계 이해 |
| 무신사 | AI 시대 채용 | AI 사용 전제 평가 — 결과물보다 과정(AI 통제력) 중시 |
| NCAI / 노매딕 | 피지컬 AI | 합성 데이터·자율 드론 점검 |
05전략적 의미
- AI 투자 기준 변화: 좋은 모델·앱 → 컴퓨팅 비용·데이터 접근성·엔터프라이즈 배포력·글로벌 고객 확보.
- 추론 경제학: AI 서비스 고도화 → 에이전트 반복 호출 → KV캐시·메모리·지연·대역폭 효율이 비용 좌우.
- 에너지 = 입장권: 전력을 못 구하면 데이터센터 자체를 못 지음 → GPU를 사도 설치 불가.
06활용 시나리오
- 반도체·소부장 투자자: HBM·패키징·기판·전력·냉각으로 이어지는 공급망 병목 지점별 종목 매핑.
- AI 도입 기업: 단순 RAG 도입 전 사내 문서 구조·정의·변경 이력부터 정비. AI ROI는 검증 비용 포함해 측정.
- 스타트업·창업자: 모델 경쟁이 아닌 특정 병목 해소(추론 칩·온사이트 전력·엔터프라이즈 검색·합성 데이터)에서 기회 탐색.
07현황 및 전망
- AI 경쟁이 반도체를 넘어 에너지 인프라 경쟁으로 확장(LNG 엔진·원전·수소 검토 단계).
- 미국 규정상 데이터센터는 사용량만큼 발전소 추가 필요 → 온사이트·모듈형 전력이 현실 해법.
- 한국은 메모리·자동차·로봇·배터리·방산·통신 등 플라이휠 다수 병목에 걸친 국가. 단, 글로벌화에는 엔터프라이즈 세일즈·보안 심사·레퍼런스 축적이 관건 → 실리콘밸리 한인 네트워크의 전략적 가치.
08용어 사전
| 용어 | 한줄 설명 | 비유/예시 |
|---|
| 플라이휠 | 한 단계 출력이 다음 입력이 되어 가속되는 선순환 | 페달을 밟을수록 더 빨리 도는 바퀴 |
| CapEx | 설비·인프라에 쓰는 대규모 자본 지출 | 공장·기계를 사는 큰돈 |
| HBM | GPU에 쌓아 붙이는 초고속 적층 메모리 | 책상 옆에 자료를 층층이 쌓아 즉시 꺼내 쓰기 |
| 패키징(CoWoS) | 칩·메모리를 한 기판에 촘촘히 붙이는 후공정 | 부품을 한 도시락에 빈틈없이 담기 |
| RAG | 외부 문서를 검색해 LLM 답변에 붙이는 기술 | 오픈북 시험처럼 자료 보며 답하기 |
| Prefill/Decode | 추론의 입력 이해 단계와 토큰 생성 단계 | 문제 다 읽기 vs 한 글자씩 답쓰기 |
| LPU | 추론에 특화된 별도 프로세서(하이퍼엑셀) | 범용 트럭 대신 전용 배달 오토바이 |
| 피지컬 AI | 로봇·드론 등 현실에서 동작하는 AI | 화면 속 AI가 몸을 얻어 밖으로 나온 것 |
| 합성 데이터 | 시뮬레이션으로 만든 가짜 학습 데이터 | 위험한 실제 사고 대신 게임으로 연습 |