Jev는 분류·도구 호출·피드 필터·음성 비서 판단을 빠르고 저렴하게 처리한다.

01핵심 개요

• TypeSafe AI의 Jev는 객관식과 예·아니요 판단에 특화됐으며, 답변별 확신도도 함께 제공하는 ‘의사결정 모델’로 소개됐다.
• 고객 지원 메시지 95건에서 475건의 분류를 2.3초, 약 0.1센트에 수행해 기존 채팅 모델보다 10배 빠르고 저렴했다고 설명했다.
• CLI 명령어 검사에서는 파일 읽기를 허용하고 파일 수정과 rm -rf 실행을 거부했으며, 약 700밀리초와 0.0004달러가 들었다.
• 소셜 미디어 피드에서 홍보·분노 유발·자극적 주장 등을 숨기고 질문이나 자신의 게시물만 보는 필터 사례를 제시했다.
• 회의 중 음성 비서는 발화가 명령인지와 발화 종료 여부를 분류해 600밀리초 만에 타이머 설정 등 동작을 실행했다.

02핵심 주장 / 논점 구조

• Jev는 TypeSafe AI가 만든 모델이며, 영상에서는 이를 ‘의사결정 모델’이라고 소개한다.
• 개발 업무의 상당수가 객관식 또는 예·아니요 질문으로 문제를 나누는 일이라는 관점을 제시한다.
• Jev의 핵심 특성으로 빠른 속도, 낮은 비용, 정확한 선택과 답변 확신도 제공을 들었다.
• 영상은 OpenRouter Labs의 사례 4개로 고객 지원, 도구 호출, 피드 필터, 음성 비서 활용을 보여준다.

03고객 지원 메시지 475건 분류

• 고객 메시지를 구독 취소, 환불 요청, 분노 표현, 버그 신고, 담당자 이관 여부 등으로 분류하는 사례를 실행했다.
• 메시지 95개에 대해 총 475건의 분류를 수행했으며, Jev는 2.3초와 약 0.1센트가 들었다.
• 기존 채팅 모델인 대형 언어 모델은 같은 작업을 완료하는 데 20초가 걸렸다고 비교했다.
• 영상은 Jev가 해당 분류에서 기존 모델보다 10배 빠르고 비용도 10분의 1이었다고 설명한다.

04에이전트 CLI 도구 호출 안전성 검사

• 2026년 개발자가 에이전트에 더 의존하면서 에이전트의 도구 호출도 증가한다는 문제의식을 제시했다.
• 잘못된 도구 선택의 예로 가장 중요한 폴더에서 rm -rf를 실행하는 상황을 들었다.
• OpenRouter API를 통해 Jev와 대형 언어 모델을 실시간 호출하며 서로 다른 CLI 명령어를 검사했다.
• Jev는 약 700밀리초와 0.0004달러로 판단했고, 파일 읽기는 허용하며 파일 수정과 rm -rf는 거부했다.
• 영상에서는 다른 모델의 비용이 10배였고 속도도 Jev가 10배 빨랐다고 말했다.

05소셜 미디어 피드의 댓글·홍보 필터

• 트위터 등 소셜 미디어의 답글 가운데 반응을 유도하거나 화를 돋우는 미끼성 글이 있다는 사례를 들었다.
• Jev 기반 필터로 분노를 유발하는 글, 홍보 글, 자극적인 주장 등을 숨길 수 있다고 설명했다.
• 필터는 진짜 질문만 보거나 자신이 쓴 게시물만 보는 방식으로도 사용할 수 있다고 소개했다.
• 홍보 글 숨기기 실행에서는 겨울 블렌드 출시, 20% 할인·깜짝 세일, 그로스 해킹 강좌 홍보 글이 사라졌다.

06회의 중 실시간 음성 비서의 명령 판단

• 네 번째 데모는 회의가 끝난 뒤 요약하는 방식 대신, 회의 도중 의사결정을 돕는 실시간 회의 기록 도우미다.
• 회의 참여자가 5분 타이머를 요청하자 Jev는 600밀리초 만에 명령을 실행했다.
• 참여자가 10분으로 변경해 달라고 하자 즉시 타이머를 바꿨고, 샘에게 10분 늦는다는 문자 요청도 실행했다.
• 오른쪽 열의 판단 항목에서 ‘비서에게 내린 명령인가’는 96%, ‘말을 끝까지 마쳤는가’는 97%로 판단됐다.
• 발화 조각별로 비서 대상 발화, 발화 종료, 요청 여부와 실행할 동작을 분류하는 구조라고 설명했다.

07OpenRouter 제공과 성능 비교 결론

• 영상은 Jev를 기존 대형 언어 모델보다 객관식과 예·아니요 판단을 10배 빠르고 10배 저렴하게 내리는 모델로 요약했다.
• 발표자는 실시간 음성 비서 사례가 대형 언어 모델로는 아무리 작고 빨라도 불가능한 일이라고 주장했다.
• 소개된 네 가지 사례는 모두 OpenRouter Labs의 예시라고 밝혔다.
• Jev는 이미 OpenRouter에서 사용할 수 있으며, 영상에서 언급한 모델 명령어로 찾을 수 있다고 안내했다.

08용어 사전