AI를 회사 전체에 심으려면? 뉴로심볼릭 월드 모델로 보는 AX의 진짜 해법 (이주환 스윗테크놀로지 대표)

01핵심 개요

02핵심 내용 구조

1) 개인은 AI를 잘 쓰는데, 왜 "회사"는 안 바뀌나

개인 수준에서 AI를 잘 쓰는 사람은 많다. 하지만 팀·조직 레벨에서 "우리 회사가 AI에 맞게 바뀌었는가?"라고 물으면 대답하기 어렵다. 아무리 좋은 AI를 가져다 써도, 그 AI는 우리 조직의 환경·이익·제약을 전혀 모르는 "외부인"일 뿐이다. 대표는 이 문제를 정리하기 위해 약 1,200페이지 분량의 책 『AI 에이전트 실행 세계』(원리편·설계편)를 냈다고 소개한다.

2) 실패의 첫 번째 이유 — 기술 난이도와 "블랙박스의 함정"

AI 에이전트를 "쓰는 것"은 편하다. 의도만 주면 중간 과정을 알아서 처리해 결과를 가져오는 블랙박스이기 때문이다. 그러나 이 "딸깍" 경험을 실제로 회사 안에 "설계해 넣는" 쪽 입장에서는 매우 어렵다. 에이전트의 작동 원리·한계·실패 패턴을 깊이 이해하고, 여러 에이전트(멀티 에이전트)가 협업할 수 있는 "회사라는 세계"를 먼저 모델링해야 하는데 이게 저절로 만들어지지 않는다.

3) 실패의 두 번째 이유 — IT 주도로는 안 된다

AI가 "도구"에서 "직원"으로 바뀌고 있다. 직원처럼 쓰려면 이 직원이 우리 도메인(업무 영역)을 신입~임원급까지 얼마나 명시적으로 알고 있게 만드느냐가 관건이다. 그런데 한국에서 AX는 주로 IT·엔지니어링 부서가 주도했고, 이들은 정작 도메인 지식이 낮다. 반대로 도메인을 아는 현업은 IT 이해도(리터러시)가 낮다. 진행자는 이를 "기자는 기술을 몰라 못 만들고, 기술자는 기자 업무를 몰라 못 만든다"는 말로 요약한다.

4) 왜 SI처럼 하면 실패하는가 — 88% 실패라는 숫자

과거 AI 회사는 자기 API를 팔려 하고, 기업은 토큰 비용을 제어하며 자기 도메인을 아는 IT 부서와 함께하길 원한다. 그런데 그 IT 부서는 확률적 지능(AI)을 기존 레거시 시스템에 붙여 본 경험이 없다. 결국 "API를 그냥 갖다 붙이는" 전통적 SI 방식으로 AX를 하게 된다. 그래서 빅테크 주도 PoC(개념 검증)의 88%가 실패했고, 46%가 중도 좌초했으며, 3년 안에 대부분의 AX 과제가 사라질 것이라는 이야기까지 나온다.

5) "AI가 더 좋아지면 다 된다"는 착각

모델은 계속 좋아진다. 문맥(컨텍스트)을 더 길게 기억하고 예측 정확도도 올라간다. 하지만 모델은 전 세계 모든 기업의 데이터를 "평균화"해 학습한 결과물이다. 우리 회사만의 독특한 이익·책임·엣지 케이스(예외 상황)는 평균 속에서 휘발된다. 게다가 이제는 모두가 "같은 최신 AI"를 쓴다(2등 모델은 안 쓰고, 1등이 바뀌면 다 갈아탄다). 따라서 "AI 쓰는 기업이 안 쓰는 기업을 이긴다"는 말은 낡았다. 차별화는 갈아 끼울 수 있는 모델이 아니라, 우리가 끝까지 보유하고 모델링해야 할 "우리 도메인의 지능(월드 모델)"에서 나온다.

6) 월드 모델 — 두 갈래, 그리고 비즈니스 월드 모델

"월드 모델"은 강화학습에서 에이전트가 활동하는 환경을 뜻한다. 크게 두 계열이 있다.

• 심볼릭(symbolic) 월드 모델: 존재·상태·전이 규칙·제약을 하나하나 이름 붙이고 명세하는 방식. 정확하지만 세상을 다 명세하려니 초기 비용이 무한대에 가까워 실패했다.
• 뉴럴(neural) 월드 모델: 데이터를 학습시켜 환경을 흉내 내는 방식. 자율주행·로보틱스에서 유명(2018년경부터 브랜딩). 유연하지만 우리 회사의 규칙·책임은 담지 못한다.

비즈니스는 물리 세계보다 더 어렵다. 중력 같은 물리법칙은 안 변하지만, 시장·고객·공급망(SCM)은 늘 변하는 "열린 세계"이기 때문이다. 그래서 대표가 제안하는 것은 두 계열의 장점을 정확히 분업시켜 인터페이스(계약)로 결합하는 뉴로심볼릭(neurosymbolic) 월드 모델, 즉 "비즈니스 월드 모델"이다.

7) 런타임 루프 — 뉴럴과 심볼릭이 실제로 협업하는 방식 (SCM 프로모션 예시)

1. 뉴럴이 제안한다: 고객·가격·채널·리전·할인율 등을 조합해 향후 매출·수익 시나리오(후보)를 만든다. 몬테카를로 시뮬레이션으로 몇 초 만에 수천 번 돌려, 사람은 불가능한 10만~100만 경우의 수 중 최적 시나리오 Top 3를 뽑는다.
2. 심볼릭이 걸러 낸다(실행 가능성 검증, executability 파이프라인): 우리 회사 제약에 맞는지 판정한다. 이 후보는 아직 "추정·신념 상태"일 뿐이며, 통과해야 "실행해도 되는 확정 상태"로 좁혀진다.
3. 컨피던스 점수 부여: 과거 유사 케이스에서 실제로 맞았는지 등 조직 데이터에 근거해 신뢰도를 수치화한다. 영업·마케팅 담당자는 이 점수를 보고 옵션 중 하나를 실행한다.
4. 트래킹·캘리브레이션: 실행 후 예측(에이전틱 트윈 월드)과 실제(액추얼 월드)의 오차(포캐스트 갭)를 심볼릭이 추적한다. 예측이 갑자기 크게 빗나가면, 왜 실패했는지 이유(리즈닝)를 만들어 다음 뉴럴 제안의 재료로 재사용한다. 순수 LLM만 썼다면 그냥 실패하고 끝났을 것이다.

8) 비유 두 가지 — 신입사원과 "깜깜한 방의 PD"

• 신입사원: 오늘 나온 최신 AI(LRM)는 IQ 200짜리 신입사원과 같다. 아무리 똑똑해도 회사의 이익·제약을 모른다. 사람이면 몇 년에 걸쳐 시행착오로 배우지만, 모델은 스스로 그렇게 학습하지 못한다(학습은 공급사가 프리트레이닝으로 통제). 반면 월드 모델은 우리가 학습 재료(성공·실패 데이터)를 계속 공급하도록 "설계"할 수 있다.
• 깜깜한 방의 PD: 눈을 가리고 불을 끈 채 "물 좀 갖다 달라"고 하면, 아무리 똑똑한 사람도 물이 어디 있는지 몰라 못 한다. 서울대를 나와도 마찬가지다. 문제는 지능이 아니라 "환경"이다. 안대를 벗기고 불을 켜면(=회사의 명세를 잘 보이게 해 주면) 끝날 일이다. 그럼 오늘 도입한 AI도 20~30년 묵은 부장님처럼 일한다.

03기술적 맥락

• 이 영상의 핵심 주장은 "프롬프트 엔지니어링 → 하네스 엔지니어링 → 루프 엔지니어링"으로 이어진 최근 유행 기법들이 서로를 죽이는 경쟁 개념이 아니라, 각각 적정 목적을 위한 "적정 기술"이라는 것이다. 이들은 작은 부분 자동화에는 유효하나, 그것만으로는 도메인 모델링·멀티 에이전트로 확장하지 못한다.
• 순수 LLM에 회사 지식을 넣으려는 파인튜닝(재학습, SFT/RFT)은 한 번에 70만~80만 달러가 들고 1년에 두어 번씩 돌려야 하는데, 그 사이 더 싸고 좋은 모델이 계속 나와 비효율적이다. 따라서 지식을 "모델"이 아니라 "월드 모델(도메인 모델)"에 쌓아 전략 자산으로 삼아야 한다.
• 실행 영역의 환각(hallucination)은 언어 영역의 환각과 위험도가 다르다. 대화의 실수는 다시 하면 되지만, 실행 시스템의 잘못된 상태 변경은 되돌릴 수 없는(비가역적) 법무·재무 손해로 이어진다. 그래서 심볼릭의 판정·거버넌스가 필요하다.

04전략적 의미

• 차별화의 축이 "어떤 AI를 쓰느냐"에서 "우리 도메인을 얼마나 잘 모델링했느냐"로 이동한다. 모델은 플러그 앤 플레이(갈아 끼움) 대상, 월드 모델은 축적·보유 대상이다.
• AX는 IT/엔지니어링 단독으로는 불가능하다. 도메인 전문가·정책 전문가·세계를 설계할 엔지니어가 함께 만들어야 팀·워크플로 레벨로 확장된다.
• AX의 정의를 "AI 전환"이 아니라 "에이전틱 전환(에이전트가 주도하는 전환)"으로 재정의해야 한다. 도구 도입이 아니라, 관측·판단·실행하는 동적 주체를 조직에 들이는 일이다.

05활용 시나리오

• SCM(공급망 관리): 프로모션 캘린더 최적화. 리전·채널·할인율·오디언스 등 6개 이상 축을 뉴럴로 시뮬레이션해 Top 시나리오를 뽑고, 심볼릭으로 회사 제약을 걸러 실행 가능한 안으로 확정한 뒤 결과를 추적한다.
• 마케팅: 미디어 믹스와 ROAS(광고비 대비 매출) 예측. 어느 지역·기간에 얼마를 투자하면 어떤 근거로 얼마가 늘지 제안하고, 과거 사내 케이스로 신뢰도(컨피던스)를 검증한다.
• 의료·제약·바이오: 환자의 세계를 모델링해 "이 약을 먹였을 때"의 반사실(counterfactual) 효과를 예측하고, 상태를 보며 의사결정을 조정한다. 테스트·PoC가 원천적으로 불가능한 영역이라 환경 기반 학습형 지능이 필수다.
• 그 외 군사·산업·제조 등 물리/비물리 도메인 전반에서 성공 사례가 나오고 있다.

06현황 및 전망

• 스윗테크놀로지는 4년째 이 작업을 진행 중이며, 고객 500곳 이상(약 75%가 미국)과 월드 모델링 프로젝트를 수행 중이라고 밝힌다.
• 뉴로심볼릭 월드 모델은 3~4년 전부터 산·학 컨소시엄이 인정하는 방향으로, 뉴럴의 유연함과 심볼릭의 책임·판정을 분업·협업시키는 것이 성공의 조건이라고 본다.
• 향후에도 LLM은 계속 좋아질 것이며(뉴럴 월드 모델 안에도 LLM 외 시뮬레이션·예측 컴포넌트가 다수 존재), 뉴럴과 심볼릭 두 세계를 어떻게 정교하게 접합할지가 AX의 핵심 과제로 남는다.

07용어 사전