유명한형제들
퀄컴이 스냅드래곤 프로세서 기반 기기에서 생성형 AI 모델을 직접 실행할 수 있는 오픈소스 런타임 GenieX를 공개했다. 이전 넥사 AI 인수를 통해 확보한 기술력을 바탕으로 선보인 이번 런타임은 클라우드 연결 없이 기기 내부에서 인공지능 추론을 처리하도록 설계됐다. 1인 크리에이터와 마케터 등 소셜미디어 콘텐츠 생산자에게 온디바이스 AI는 데이터 프라이버시 보호와 추론 비용 절감을 동시에 가져다주는 핵심 기술로 떠오른다. GenieX가 제공하는 하드웨어 지원 범위와 주요 생성형 AI 모델 목록, 그리고 개발자 커뮤니티의 반응을 살펴본다.
오픈소스 런타임 GenieX의 등장
퀄컴은 스냅드래곤 기기에서 생성형 AI 모델을 로컬로 구동하기 위한 오픈소스 런타임 GenieX를 공개했다. 이번 프로젝트는 퀄컴이 인수한 넥사 AI 팀이 기존 넥사 SDK를 개발자 커뮤니티용 오픈소스 런타임으로 재구성하여 선보인 결과물이다. 개발자 리포지토리를 통해 누구나 접근할 수 있도록 오픈소스로 전환되면서 온디바이스 AI 생태계의 접근성이 한층 넓어졌다.
GenieX는 스냅드래곤 프로세서 내부에 위치한 CPU, GPU, NPU를 통합 활용하여 AI 추론을 구동한다. 각 연산 장치의 특성에 맞춰 인공지능 모델을 효율적으로 분배하고 실행하는 최적화 구조를 채택했다. 이를 통해 개발자는 단 몇 줄의 단순한 코드 작성만으로 생성형 AI 모델을 기기 내부 소프트웨어에 직접 구현할 수 있게 된다.
하드웨어 및 모델 지원 범위
GenieX 런타임은 스냅드래곤 기반 장치의 연산 성능을 끌어올리기 위해 헥사곤 NPU, 아드레노 GPU, 그리고 CPU 전체를 활용하여 로컬 추론을 수행한다. 운영체제 측면에서는 윈도우, 안드로이드, 리눅스를 모두 지원하여 다양한 크로스플랫폼 기기 환경에서 작동한다. 아울러 허깅페이스에 등록된 GGUF 형식의 모델을 가져와 실행할 수 있으며, 퀄컴 AI 허브에서 제공하는 사전 컴파일된 모델 번들까지 통합 지원한다.
이처럼 통합된 하드웨어 연산 자원과 플랫폼 지원 덕분에 개발자는 클라우드 서버 구축 없이 개별 단말에서 고성능 추론 환경을 구성할 수 있다. 하드웨어 장치별 역할과 플랫폼 연동 방식을 정리한 지원 사양은 아래 도표와 같다.
지원하는 생성형 AI 모델 목록
GenieX는 최신 대규모 언어 모델(LLM)과 비전-언어 모델(VLM)을 가리지 않고 기기 내 로컬 구동을 지원한다. 구체적으로 Qwen 3.5 및 Qwen3, Gemma 4, Granite 4, Ministral-3, Phi-4, GPT-OSS 등 다양한 최신 오픈 소스 AI 모델이 대상에 포함된다. 기존 언어 중심의 모델은 물론 텍스트와 이미지를 동시에 처리하는 비전-언어 모델까지 포괄하는 확장성을 보여준다.
외부 클라우드 API에 의존하지 않고 기기 내부 연산장치로 추론 작업을 처리함으로써 처리 지연 시간을 단축한다. 동시에 소셜미디어 콘텐츠 제작 과정에서 발생하는 개인정보 및 마케팅 데이터의 유출 위험을 차단한다. GenieX가 지원하는 대표적인 온디바이스 생성형 AI 모델 분류는 다음과 같다.
개발자 커뮤니티의 반응과 향후 전망
GenieX는 공개 직후 깃허브 리포지토리에서 8,500개가 넘는 스타를 확보하며 온디바이스 AI 개발자들의 높은 관심을 받고 있다. 현재 개발자 프리뷰 단계로 제공되고 있으며, 윈도우와 안드로이드 및 리눅스를 아우르는 크로스플랫폼 지원을 바탕으로 개발 생태계를 구축해 나가는 중이다.
온디바이스 환경에서 직접 인공지능 모델을 구동하면 클라우드 서버 호출에 따른 추론 비용이 발생하지 않는다. 또한 민감한 마케팅 데이터와 개인 콘텐츠가 외부로 송신되지 않아 데이터 프라이버시가 강화된다. 이러한 비용 절감과 보안성 확보는 여러 소셜미디어 채널을 동시에 운영하는 마케터와 1인 크리에이터에게 효율적인 작업 환경을 제공할 것으로 기대된다.
참고
댓글 0개
아직 댓글이 없습니다. 첫 댓글을 남겨보세요.