OpenAI에서 ChatGPT와 RLHF 개발을 이끌었던 디오고 알메이다가 설립한 TypeSafe AI가 새로운 개념의 AI 모델 Jev를 공개했다. Jev는 문장을 순차적으로 생성하는 기존 대규모 언어 모델(LLM)과 달리, 정형화된 선택지와 확률을 단일 병렬 처리로 계산하는 시스템 원(System One) 의사결정 모델이다. 텍스트를 출력하지 않는 특성 덕분에 환각 현상이 발생하지 않으며 실시간 에이전트 연동에 최적화된 성능을 제공한다. 본 글에서는 Jev의 개발 배경과 작동 메커니즘, 그리고 기존 LLM 대비 압도적인 속도 및 비용 효율성을 살펴본다.

OpenAI 출신 연구원의 새로운 도전, Jev 공개

OpenAI에서 InstructGPT, ChatGPT, GPT-4 개발 및 RLHF(인간 피드백 기반 강화 학습)를 주도했던 연구원 디오고 알메이다(Diogo Almeida)는 2024년 OpenAI를 떠나 TypeSafe AI를 설립했다. 그는 기존 대규모 언어 모델이 가진 구조적 한계를 극복하기 위해 약 2년간의 스텔스 개발 기간에 착수했다.

이러한 개발 노력을 바탕으로 TypeSafe AI는 2026년 9월 15일 의사결정 전용 모델인 Jev의 제한적 얼리 액세스를 정식으로 시작했다. Jev는 대화나 문장 생성을 목적으로 하는 기존 프론티어 LLM과 달리 소프트웨어 및 AI 에이전트의 내부 통제와 판단을 위해 설계된 시스템 원 모델을 표방한다.

OpenAI 출신 디오고 알메이다가 설립한 TypeSafe AI가 2년여 개발 끝에 의사결정 모델 Jev를 공개했다.

텍스트 생성을 배제한 시스템 원 의사결정 모델

Jev의 핵심 차별점은 문장을 토큰 단위로 순차 생성하는 자기회귀(Autoregressive) 방식을 사용하지 않는다는 점이다. 주어진 상태와 질문, 선택지에 대해 모든 확률을 단일 병렬 처리 방식으로 한 번에 계산한다. 텍스트 생성을 완전히 배제하고 유형화된 데이터와 신뢰도 점수, 확률 추정치만을 출력하기 때문에 환각 현상이 구조적으로 발생하지 않는다.

또한 Jev는 RLCD(Reinforcement Learning for Calibrated Decisions)라는 독자적인 훈련 방식을 적용했다. 이를 통해 단일 요청 내에서 최대 255개의 정형화된 선택지 옵션 가운데 최적의 답을 정밀하게 도출해 낸다. 대화형 인터페이스 대신 정형화된 판단만을 요구하는 시스템 파이프라인에서 독보적인 정확도를 보인다.

Jev는 텍스트를 생성하지 않고 정형화된 선택지와 확률을 단일 병렬로 계산하는 시스템 원 모델이다.

기존 LLM 대비 압도적인 속도와 비용 효율성

Jev는 실질적인 워크플로우 테스트에서 기존 대규모 언어 모델과 비교해 압도적인 성능 지표를 기록했다. 실제 워크플로우 실행 기준 기존 LLM 대비 193.6배 빠른 실행 속도를 보였으며, 비용 측면에서는 444.6배 낮은 수준을 달성했다. 작업 조건에 따라 프론티어 LLM 대비 20배에서 200배 빠른 추론 속도를 보이고 비용은 40배에서 400배 저렴하다.

이러한 추론 속도와 비용 절감 능력은 AI 에이전트 아키텍처 구축 시 지연 시간을 획기적으로 줄여준다. 정형화된 의사결정을 유연하고 빠르게 처리함에 따라 시스템 병목 현상을 해소하는 데 크게 기여한다.

Jev는 테스트 워크플로우 기준 기존 LLM보다 193.6배 빠르고 비용은 444.6배 저렴하다.

파격적인 가격 정책과 고성능 추론 능력

TypeSafe AI는 Jev의 가격을 백만 입력 토큰당 0.042달러로 책정했다. 이는 백만 토큰당 0.05달러 수준인 OpenAI의 GPT-5 Nano보다 저렴한 수준이다. 또한 텍스트를 출력하지 않는 모델 특성상 출력 토큰 비용은 완전히 무료로 제공되어 개발자의 부담을 크게 낮췄다.

응답 시간은 최소 70밀리초에서 최대 500밀리초 수준에 불과하여 실시간 시스템 통제에 최적화된 스펙을 자랑한다. 지능 수준 역시 구조화된 의사결정 작업 영역에서 GPT-5.6 Terra의 기본 추론 설정과 비교했을 때 대등하고 광범위하게 유사한 추론 정확도를 보여준다.

입력 토큰당 저렴한 비용과 초고속 응답 속도를 바탕으로 에이전트 시스템에 최적화된 환경을 제공한다.

개발자를 위한 의사결정 모델의 새로운 지평

Jev의 출현은 복잡한 AI 파이프라인을 구축하는 개발자들에게 새로운 아키텍처 설계를 가능하게 한다. 에이전트 시스템이 별도의 텍스트 파싱 과정 없이 유형화된 값과 신뢰도 점수만 직관적으로 수신하여 로직을 실행할 수 있기 때문이다. 환각 없는 정확성과 구조화된 출력 덕분에 시스템 내부의 로깅, 분류, 경로 제어 작업에 최적화되어 있다.

앞으로의 AI 아키텍처는 사용자 인터페이스용 대화형 LLM과 내부 시스템 판단용 Jev와 같은 의사결정 모델을 결합하는 쌍방향 구조로 발전할 가능성이 높다. 개발자들은 이를 통해 비용과 추론 속도, 시스템 안정성을 동시에 만족하는 효율적인 AI 서비스를 구축할 수 있을 것이다.

참고