프라이빗 AI 확산 속 시리·제미나이와 클로드·챗GPT의 관문 경쟁을 짚었다.

01핵심 개요

• 애플은 AFM3를 온디바이스·PCC·외부 클라우드로 나누고, 시리 AI의 처리 계층을 구성하는 방향을 제시했다.
• 출연자는 복잡한 업무의 AI 관문으로 클로드와 챗GPT가 유리하되, 시리·제미나이는 기기 내 소형 작업에 강점이 있다고 봤다.
• 기업은 데이터를 모은 뒤 CSO·S·C 등급으로 분류하고 권한을 제어하는 보안 엔진을 준비해야 한다는 의견이 제시됐다.
• 엔비디아 Nemotron 3 Ultra와 Qwen 3.8 27B 사례를 통해, 저비용 모델과 사내 GPU 기반 프라이빗 AI의 가능성을 설명했다.
• 프라이빗 AI가 확대되면 GPU·서버뿐 아니라 브로드컴·델 등 네트워크·저장장치 관련 기업도 수혜를 볼 수 있다고 분석했다.

02핵심 주장 / 논점 구조

• 영상은 AI의 주도권이 모델 자체보다 사용자의 기기·문서·이메일·업무 서비스를 연결하는 ‘관문’에 달릴 수 있다고 봤다.
• 개인과 기업의 AI는 온디바이스 AI, 프라이빗 AI, 클라우드 AI를 난이도와 보안 수준에 따라 함께 쓰는 구조로 설명됐다.
• 출연자는 기업이 프라이빗 AI를 구축하려면 GPU 확보뿐 아니라 데이터 분류, 접근 권한, 보안 체계가 필요하다고 강조했다.
• 저렴하면서도 성능이 높아진 중국 오픈소스 모델이 사내 GPU 활용과 AI 서비스 비용 경쟁을 촉진하고 있다는 관점이 제시됐다.

03애플 AFM3와 시리 AI의 3계층 처리

• 애플은 애플 파운데이션 모델 AFM의 버전 3인 AFM3를 사용하며, 경량 모델 AFM3 Core를 온디바이스 처리용으로 둔다고 설명됐다.
• 온디바이스 처리는 기기를 벗어나지 않아 사진·텍스트·개인정보를 다룰 수 있지만, 상대적으로 쉬운 업무에 적합하다고 언급됐다.
• 더 어려운 작업은 애플의 프라이빗 클라우드 컴퓨트(PCC)에서 AFM3 클라우드 모델로 처리하고, 추가 고성능 모델도 활용할 수 있다고 봤다.
• 출연자는 애플이 하드웨어, 애플 PCC, 구글 클라우드에 걸친 경험을 축적하는 점을 시리 AI 경쟁력의 기반으로 평가했다.

04AI 관문 경쟁: 기기 AI와 프론트엔드 서비스

• AI 관문 후보로 클로드·챗GPT 같은 AI 프론트엔드 서비스, 시리 AI·제미나이, 브라우저, 개별 버티컬 서비스가 제시됐다.
• 브라우저는 웹 활동을 돕는 접점이지만 로컬 문서와 이메일까지 다뤄야 하는 업무에서는 시리 AI나 제미나이 같은 기기 기반 AI의 역할이 커질 수 있다고 설명됐다.
• 출연자는 사진 편집, 메일 요약처럼 기기에서 조용히 처리할 소형 작업은 시리나 제미나이가 맡을 수 있다고 봤다.
• 반면 복잡한 업무는 먼저 생태계를 만들고 사용자가 익숙해진 챗GPT와 클로드가 우세할 가능성이 있다는 개인 의견을 밝혔다.

05기업 AI의 데이터 권한과 보안 설계

• 기업 AI가 문서 라이브러리와 여러 웹 서비스를 연결할수록 할 수 있는 일은 늘어나지만, 민감한 데이터의 접근 통제가 핵심 과제로 제시됐다.
• 정부의 데이터 보안 체계로 클리시파이드(C), 센서티브(S), 오픈(O) 등급을 언급하며, 데이터 분류와 사용자별 권한 설정 필요성을 설명했다.
• 예시로 사장은 C까지, 팀장은 S까지, 일반 직원은 O까지만 보도록 설정하고 AI는 상위 등급 정보를 직접 노출하지 않은 채 답변 맥락에 활용할 수 있다고 말했다.
• 출연자는 LLM이 전사 문서를 읽고 보안 등급을 매기는 일에 활용될 수 있으며, 데이터 보안 엔진 관련 제품이 중요해질 것으로 전망했다.

06저비용 모델 경쟁과 GPU 기반 모델 라우팅

• 엔비디아는 프라이빗 AI용 모델 사례로 Nemotron 3 Ultra를 내놨으며, 최고급 엔비디아 GPU에서 성능을 높일 수 있다고 소개됐다.
• 중국의 Qwen 3.8 27B는 Nemotron과 비슷한 성능으로 언급됐고, 출연자는 더 낮은 가격대 하드웨어에서 구동할 수 있다는 점을 비교했다.
• GPT 5.6 루나는 7월 30일 요금을 80% 인하했다고 언급됐으며, 중국 모델의 가격 경쟁이 시장에 영향을 주고 있다는 해석이 나왔다.
• 모델 라우팅은 작은 모델로 먼저 처리·평가한 뒤 필요한 경우 큰 모델로 전환하고, 결과 기록을 바탕으로 질문 유형별 모델 선택을 개선하는 방식으로 설명됐다.
• GPU를 24시간 운용하면 낮의 질문·피드백을 밤에 분석해 LLM 자체를 바꾸지 않고도 일하는 방식을 자가 개선할 수 있다고 봤다.

07프라이빗 AI 투자 구조와 관련 기업

• 출연자는 기업들이 데이터를 클라우드에 모두 두기 어려워지면서 로컬 서버와 GPU를 결합한 프라이빗 AI가 부각된다고 설명했다.
• DGX Spark는 약 1천만 원대 기기로 언급됐고, 사내 AI 실험에 쓰이며 더 큰 사내 AI 활용에는 더 높은 가격대 장비가 필요할 수 있다고 말했다.
• 프라이빗 AI가 커지면 GPU 서버 외에도 데이터센터 네트워크, 저장장치, 전력, 냉각과 AI 구축·운영 서비스의 중요성이 함께 커진다고 분석했다.
• 출연자가 제시한 자체 추정 시뮬레이션에서는 프라이빗 AI 확산 시 엔비디아 비중이 약 24에서 30으로 커지고, 마이크로소프트도 수혜를 볼 수 있다고 했다.
• 브로드컴과 델은 이미 매출과 시가총액이 커졌다고 언급됐으며, 엔비디아와 함께 프라이빗 AI 수혜 가능 기업으로 거론됐다.

08용어 사전