Liquid AI 가 선보인 온디바이스 멀티모달 스페이스로 WebGPU 를 활용해 브라우저 내에서 실시간 음성 및 언어 추론 완수.
최신 브라우저의 WebGPU 하드웨어 가속을 통해 로컬 기기 GPU 에서 직접 모델을 구동하며 서버 비용 제로.
LFM3 Omni 2B WebGPU 는 혁신적인 리퀴드 신경망 아키텍처를 이끄는 Liquid AI 가 공개한 온디바이스 멀티모달 실험실입니다. 기존의 옴니 모델은 막대한 클라우드 데이터센터 인프라가 필수적이었으며 네트워크 지연과 데이터 유출 우려가 공존했습니다. 본 프로젝트는 20억 파라미터 규모의 모델 가중치를 브라우저에 직접 로드하여 표준 WebGPU 가속으로 로컬 GPU 에서 음성과 텍스트를 실시간 추론함으로써 완전한 프라이버시 중심의 차세대 온디바이스 AI 를 구현합니다.