01핵심 개요
- 강수진 박사는 GPT 6 아스트라의 과잉 실행과 토큰 소모를 줄이려면 작업 시점·범위·종료 조건을 구체적으로 정해야 한다고 설명한다.
- 스킬과 문서는 매번 전부 읽게 하기보다 필요한 상황에만 불러오도록 구성하고, 이름과 설명을 구체적으로 작성해야 한다.
- 입력에는 관련 자료만 포함하고 결과 형식·분량·검증 범위를 지정하며, 추론 모드는 로우부터 시작하는 방법을 제안한다.
- 왁뿌볼 제작, 티타임즈TV 대시보드, 웹페이지 재현 사례로 아스트라와 제미나이·페이블 5.1의 결과를 비교한다.
- 38장 슬라이드 작업에서 울트라가 약 1,955만 토큰을 사용한 경험을 소개하며, 모델의 자율성과 끈기를 제어할 필요성을 강조한다.
02핵심 주장 / 논점 구조
- 모델 성능이 좋아질수록 일을 더 많이 시키기보다 불필요한 읽기·검증·반복을 막는 프롬프트 설계가 중요해진다.
- ‘모든 문제를 단계별로 길게 생각해’ 같은 지시는 아스트라의 검증과 설명을 늘려 토큰을 소모시킬 수 있다.
- 목표와 필요한 근거, 결과 형식, 검증 범위, 종료 조건을 구체적으로 제시해 모델이 할 일을 제한해야 한다.
- 발표자는 아스트라가 고성능·고비용 모델이므로 일상 업무보다 복잡하고 어려운 작업에 활용하는 편이 낫다고 말한다.
03시점과 범위를 명시하는 프롬프트
- ‘데이터베이스 쿼리 모델 또는 데이터 영속성과 관련된 작업을 사용하라’는 지시는 적용 시점이 모호한 나쁜 예로 제시된다.
- 대안으로 마이그레이션 추가·변경이나 롤아웃 검토 때 사용하라고 지정해 지침이 필요한 순간을 좁힌다.
- ‘매번 수정하기 전에’ 여러 MD 파일을 읽으라는 지시 대신, 서비스 경계·스키마 변경·배포 준비별로 참조 파일을 나눈다.
- 결과물부터 제시하고 조건과 금지 사항, 검증 항목을 붙이는 방식이 아스트라 사용 경험에 효과적이었다고 설명한다.
04스킬의 점진적 공개와 트리거 관리
- Progressive disclosure 방식에서는 먼저 스킬 이름과 설명을 확인하고, 추가 정보가 필요할 때 스크립트나 레퍼런스를 읽는다.
- 스킬의 name과 description이 모호하면 불필요한 스킬이 자주 실행되거나 필요한 스킬이 선택되지 않을 수 있다.
- ‘문서를 처리한다’보다 ‘법률 계약서를 검토한다’처럼 목적을 구체적으로 적어 트리거 범위를 좁히는 예를 든다.
- 스킬을 지나치게 많이 만들면 설명 공간이 줄고 중복 호출이 생길 수 있어, 필요한 스킬만 두고 부정 트리거도 설계해야 한다.
05토큰·추론 예산을 줄이는 방법
- 입력 토큰은 반복 지시와 무관한 문서를 빼고, 긴 자료는 필요한 부분을 발췌하거나 요약해 넣으라고 권한다.
- 답변 토큰은 결과 형식과 설명 분량을 지정하고, 중간 과정 보고는 필요한 내용만 요약하게 한다.
- 아스트라는 로우 추론 모드에서도 답을 잘하는 경우가 있다며, 복잡하지 않은 작업은 로우부터 시작하라고 제안한다.
- 발표자는 보이지 않는 추론도 API에서 출력 토큰으로 과금된다고 설명하며, 사용량을 확인하라고 당부한다.
- 승인 절차를 모든 행동에 적용하면 확인과 검증이 과도해질 수 있으므로 안전한 영역에서는 자율 수행 범위를 정한다.
06사례로 본 모델별 결과와 비용
- 같은 프롬프트로 만든 왁뿌볼 결과를 비교하며, 발표자는 아스트라 로우의 물리감 표현이 가장 현실적이었다고 평가한다.
- 티타임즈TV 대시보드는 간단한 프롬프트와 데이터 플러그인·사이트 시맨틱 레이어로 구성했고, 30편·누적 조회수 77만을 표시했다.
- 앤트로픽 리서치 페이지 재현에서는 아스트라 미디엄이 한국어 번역과 인터랙션 구현에서 페이블 5.1 하이보다 원본에 가까웠다고 소개한다.
- 38장 방송 슬라이드와 시연 작업에서 울트라는 약 1,955만 토큰과 출력 12.2만 토큰을 사용했지만, 초안과 다른 결과를 내기도 했다.
07자율성 제어와 실제 사용 원칙
- 발표자가 소개한 시스템 프롬프트에는 목표가 완료될 때까지 자율적으로 진행하고 지속적인 노력을 하라는 지침이 포함돼 있다.
- 종료 조건과 검증 항목을 구체화하지 않으면 모델이 요청 범위를 넘어 작업하거나 반복 검증을 할 수 있다고 설명한다.
- 긴 작업은 상세한 로그 대신 체크포인트나 참조용 인덱스를 남기고, 도구 실행 결과도 필요한 내용만 기록하게 한다.
- 멀티턴 대화에서 답변이 이상해졌다고 느끼면 새 세션을 시작하거나, 필요한 맥락을 정리한 메모리 파일을 활용하라고 제안한다.
08용어 사전
| 용어 | 뜻 |
|---|
| Progressive disclosure | 스킬의 기본 정보부터 확인하고 필요할 때 세부 문서나 레퍼런스를 추가로 읽게 해 토큰 사용을 조절하는 방식. |
| CoT | 생각의 사슬(Chain of Thought)로, 영상에서는 아스트라가 추론 과정을 사용자에게 보여주지 않는 특징과 연결해 다룬다. |
| 스킬 트리거 | 에이전트가 스킬 이름을 직접 받거나 요청 내용을 해석해 해당 스킬을 자동으로 불러오는 과정. |
| 추론 모드 | 아스트라 작업에 배정하는 추론 수준으로, 발표자는 일반 작업에서 로우부터 시작하고 복잡도에 따라 높이기를 권한다. |
| 종료 조건 | 작업을 어디까지 수행하고 무엇을 완료로 볼지 정하는 지침으로, 불필요한 자율 실행과 검증을 제한한다. |