01핵심 개요
| 항목 | 내용 |
|---|
| 채널 | 안될공학 (패치) |
| 핵심 주장 | AI 경쟁축이 "더 똑똑한 모델"에서 "조직에서 실제 돈값을 하는가"로 이동 |
| 발단 | 팔란티어 CEO 알렉스 카프가 "토큰 맥싱(token-maxing)" 비판 제기 |
| 저격 대상 | 모델 회사(OpenAI·앤트로픽) — 토큰 사용량 증가가 곧 매출인 구조 |
| 묘한 장면 | 카프가 비판 발언을 한 무대(TBPN)가 OpenAI가 인수한 채널 |
| 결론 | 모델(엔진)과 운영 레이어(도로)는 경쟁하면서도 서로 필요로 하는 관계 |
02핵심 내용 구조 — '토큰 맥싱'이란
- 정의: 토큰을 최대한 태우게 만드는 것 — 칭찬이 아닌 비판 용어
- 과금 구조: 모델 API는 입력·출력 토큰 단위 과금. 출력 토큰이 입력보다 보통 몇 배 비쌈. 모델이 길게 답할수록 청구서 증가
- 토큰이 비싼 이유: 트랜스포머 어텐션 연산은 입력 길이에 따라 급증. 긴 문맥·복잡 추론·에이전트의 반복 도구 호출 → 연산·메모리 대역폭 비용 증가
- 카프의 실제 문제 제기: 토큰 사용량 증가를 *생산성 향상*으로 착각하는 상황. "AI를 많이 쓰는 것 ≠ AI로 돈을 버는 것"
03기술적 맥락
- 모델 회사도 비용 절감 장치 제공: 캐싱(반복 입력), 배치 처리, 경량 모델, 라우팅
- 비용 최적화 기술 지속 등장: 플래시 어텐션, KV 캐시 최적화, 스파스 어텐션, MoE, 경량 모델
- 그럼에도 기업 비용 문제는 잔존 — 복잡한 문제일수록 더 많은 문맥·추론·토큰이 자연 발생
04전략적 의미
- 시장조사: 인프라 운영(I&O) AI 활용 사례 중 ROI 기대치 충족 비율 28% 수준
- 샘 알트먼도 "높은 비용이 기업 고객에게 심각한 문제"라고 인정 — 문제의식은 양측이 공유
- 역사적 비유: 클라우드 초창기에도 "AWS만 쓰면 디지털 전환" 착각. 실제 변화는 앱 구조·데이터 흐름·배포·보안이 클라우드에 맞게 바뀔 때 발생
- ERP 비유: 데이터 저장이 아니라 주문·재고·회계·생산·구매를 *하나의 흐름*으로 묶어줄 때 의미 발생
05핵심 워크플로우/방법론 — 팔란티어 4대 제품군
| 제품 | 대상 | 역할 |
|---|
| Foundry(파운드리) | 민간 기업(제조·에너지·물류·금융) | 온톨로지 — 현실 업무 객체(공장·주문·재고·운송)를 연결한 디지털 트윈 |
| Gotham(고담) | 정부·국방·정보 | 민감 영역. human-in-the-loop(사람이 의사결정에 잔존) 구조 |
| AIP | 기업 전반 | LLM을 기업 데이터·업무 흐름 위에 올림. 모델 종속 회피(구글 Gemini도 연결) |
| Apollo(아폴로) | 전 고객 환경 | 클라우드·자체센터·폐쇄망에 소프트웨어를 안정 배포·업데이트·롤백 |
- 핵심 메시지: "우리는 모델 하나가 아니라, 모델이 조직에서 작동하게 하는 운영 레이어를 판다"
06활용 시나리오
- 항공사: 비행기·부품 재고·정비 일정·승무원 배치가 연결되면, 지연 시 영향 승객·노선까지 AI가 실질 제안
- 제조/보험 실사례: 미국 건설사가 전사 AI 운영체계를 팔란티어로 구축 발표, 멕시코 최대 보험사 GNP Seguros가 보험사기 탐지·청구처리에 확대 적용
- 에이전트 실행: "다음 주 생산 차질 위험 찾아줘" → AI가 위험 부품 탐지·시나리오 제안 → 담당자 승인 → 실제 워크플로우 실행(통제된 실행 능력)
07현황 및 전망
- 카프의 비판 = 동시에 팔란티어 광고("정수기 파는 사람이 수돗물 마시지 말라는 것")
- 얽힌 관계: 앤트로픽은 비판 대상이면서 미국 정부·국방 환경에서 Claude 안전 배포 파트너. 팔란티어는 구글 Gemini도 AIP에 연결
- 팔란티어의 한계: 매우 비쌈(온톨로지 구축에 막대한 시간·컨설팅). 카프 본인도 "진짜 가치는 7년 이상 걸쳐 나올 것". 중소·중견기업은 도입 엄두 어려움 → 가벼운 API로 시작이 다수
- 추가 쟁점: 정부·국방 강세 → 개인정보·감시·공공데이터 논란에서 자유롭지 못함
- 향후 관전 포인트: ① 모델 회사가 가격구조·관리도구를 어떻게 제공하는가 ② 팔란티어 AIP가 실제 업무에서 얼마나 빠르게 확산·의사결정을 바꾸는가
08용어 사전
| 용어 | 한줄 설명 | 비유/예시 |
|---|
| 토큰(Token) | AI가 문장을 쪼개 처리하는 최소 단위, 과금 기준 | 택시 미터기처럼 쓴 만큼 요금 부과 |
| 토큰 맥싱 | 토큰을 최대한 소비하게 만드는 구조에 대한 비판어 | 전화요금제가 통화를 길게 유도하는 것 |
| 어텐션 | 입력 토큰 간 관련성을 계산하는 핵심 연산 | 문장 속 단어들이 서로 누구를 가리키는지 따지기 |
| MoE | 필요한 일부 전문가 신경망만 켜는 경량화 기법 | 큰 병원에서 증상별 전문의에게만 보내기 |
| 온톨로지(Ontology) | 현실 업무 객체와 관계를 소프트웨어에 모델링한 지도 | 회사 전체를 본뜬 디지털 미니어처 |
| 디지털 트윈 | 현실 시스템을 가상으로 복제한 모델 | 실제 공장을 그대로 본뜬 시뮬레이터 |
| human-in-the-loop | 최종 판단에 사람이 반드시 개입하는 구조 | 자율주행이라도 운전석에 사람이 앉아 있는 것 |
| ROI | 투자 대비 수익률 | 100만원 써서 얼마 벌었나 |
10검증
- V1~V5 전 항목 PASS (YouTube V6 포함)