생성형 AI 모델의 발전은 개발자의 생산성을 끌어올렸지만, 동시에 특정 작업에서의 속도 저하와 비용 상승이라는 새로운 과제를 안겨주었다. 구글 제미나이는 노트북 환경과 통합되어 데이터 분석과 코드 작성을 보조하지만, 대규모 범용 모델의 구조적 한계로 인한 불만도 꾸준히 제기되고 있다. 이러한 상황에서 자연어 생성 대신 의사결정에 특화된 시스템 원 모델인 Jev가 등장하며 AI 에이전트 파이프라인 구성의 새로운 대안으로 떠올랐다.

구글 제미나이 노트북 환경의 활용

구글의 제미나이 모델은 Jupyter Notebook, Google Colab, Google AI Studio 등 다양한 개발 환경에 깊이 통합되어 활용되고 있다. 구글 Colab에서는 데이터 사이언스 에이전트를 통해 데이터 분석과 시각화 작업을 자동화하고 전체 노트북을 생성하거나 코드의 오류를 자동으로 수정하는 기능을 제공한다. 또한 Gemini Notebook은 개인 지식 베이스 및 문서 요약 도구로서 복잡한 연구와 데이터 학습을 지원한다.

하지만 현장의 개발자들 사이에서는 제미나이 활용 시 발생할 수 있는 개발 속도 저하에 대한 우려도 나온다. 제미나이 3.5 Pro의 코딩 능력 향상 지연과 플랫폼의 안정성 이슈로 인해 무한 로딩이나 할당량 자동으로 인한 서비스 제약이 지적되어 왔다. 특히 단순한 의사결정이나 라우팅 작업에서도 거대한 생성형 모델을 거쳐야 하는 구조는 전체 AI 시스템의 응답 속도를 늦추는 요인이 되기도 한다.

의사결정 전용 모델 Jev의 등장

이러한 범용 LLM의 한계를 보완하기 위해 2026년 9월 15일, TypeSafe AI는 의사결정 전용 모델인 Jev를 제한된 얼리 액세스로 출시했다. 전 OpenAI 연구원 디에고 알메이다가 설립한 TypeSafe AI가 개발한 Jev는 텍스트를 길게 생성하는 대신 유형화된 결정을 내리는 데 특화된 시스템 원 모델이다.

Jev는 입력된 질문에 대해 단일 병렬 패스로 선택, 점수 매기기, 예/아니오 판단 등 유형화된 형태의 결과를 신뢰도 점수와 함께 직접 출력한다. 대화나 문서 작성이 아닌 분류, 라우팅, 안전 검사 등 소프트웨어 내부의 정밀한 의사결정 작업에 최적화되어 있다. 프로그램 상태를 전달받았을 때 70ms에서 500ms 이내에 응답하는 빠른 처리 속도를 갖춰 에이전트 파이프라인의 전처리 및 판단 레이어로 유용하게 쓰일 수 있다.

2026년 9월에 출시된 Jev는 텍스트 생성이 아닌 유형화된 의사결정에 특화된 시스템 원 모델이다.

Jev와 제미나이의 벤치마크 비교

범용 모델인 제미나이와 의사결정 모델인 Jev는 수행 능력과 처리 속도에서 명확한 차이를 보인다. 브라우저 자동화 작업 50개를 대상으로 진행한 벤치마크 시험에서, 제미나이 3.8 Flash는 42개 작업을 완료한 반면 Jev 1.13은 17개 작업만을 완료했다. 복잡하고 유연한 추론이 필요한 영역에서는 제미나이의 범용 생성 능력이 우위를 점하는 것을 알 수 있다.

그러나 성공적으로 완료된 작업의 처리 속도 면에서는 Jev가 뛰어난 효율을 입증했다. 작업 완료까지 걸린 평균 시간은 Jev가 5.4초였던 반면, 제미나이 3.8 Flash는 12.7초가 소요되었다. 특정 조건이 명확히 정립된 의사결정 과제에서는 Jev가 제미나이에 비해 절반 이하의 시간으로 신속히 작업을 수행함을 나타낸다.

브라우저 자동화 작업에서 제미나이가 더 많은 작업을 완료했으나 Jev는 특정 작업에서 빠른 속도와 저렴한 비용을 보인다.

AI 개발 파이프라인의 변화와 시사점

Jev는 속도뿐만 아니라 운영 비용 측면에서도 주목할 만한 수치를 제시한다. Jev의 이용 요금은 입력 토큰 10억 개당 42달러 수준이며 출력 토큰은 비용이 발생하지 않는 구조다. 제미나이 3.8 Flash나 GPT-6 Astra의 입력 토큰 비용이 Jev에 비해 약 240배에 달한다는 점을 고려할 때, 판단과 분류 작업에서 Jev를 도입하면 전체 파이프라인 비용을 대폭 절감할 수 있다.

결국 AI 기반 소프트웨어를 설계하는 개발자는 모든 워크플로우에 단일 범용 LLM을 사용하는 방식을 재검토해야 한다. 복잡한 자연어 생성과 종합 추론은 제미나이와 같은 모델에 맡기고, 조건 판단과 데이터 라우팅은 Jev와 같은 특화 의사결정 모델에 배정하는 하이브리드 파이프라인을 구축하는 것이 성능과 비용, 그리고 개발 속도를 모두 잡는 현실적인 해법이 된다.

참고