유명한형제들
IT
퀄컴 GenieX 공개, 온디바이스 생성형 AI 런타임의 특징과 전망
퀄컴이 스냅드래곤 프로세서 기반 기기에서 생성형 AI 모델을 직접 실행할 수 있는 오픈소스 런타임 GenieX를 공개했다. 이전 넥사 AI 인수를 통해 확보한 기술력을 바탕으로 선보인 이번 런타임은 클라우드 연결 없이 기기 내부에서 인공지능 추론을 처리하도록 설계됐다. 1인 크리에이터와
태그
#온디바이스AI
총 3개의 글
쇼핑
물리적 세계와 산업 현장으로 확장하는 2026년 인공지능 트렌드
인공지능 기술은 단순한 텍스트 생성과 대화형 서비스 단계를 넘어 실제 물리적 세계와 직접 상호작용하는 방향으로 급격히 진화하고 있다. 데이터센터의 클라우드 서버에 고립되어 연산만 수행하던 기존 한계에서 벗어나, 스마트폰과 로봇 등 기기 내부에서 직접 작동하며 특정 산업 현장에 최적화된
IT
35B MoE 모델을 2.9GB 메모리로 구동하는 Edge0 프레임워크를 분석한다.
대규모 언어 모델을 개인 로컬 기기에서 돌릴 때 가장 먼저 막히는 것은 메모리 용량이다. 희소 전문가 혼합(MoE) 아키텍처는 연산 효율이 좋지만 수십 기가바이트의 메모리를 요구해 일반 데스크톱이나 노트북에서는 실행하기 어렵다. Apache-2.0 라이선스로 공개된 오픈소스 프레임워크