극강의 저지연과 비용 효율성을 겸비하여 실제 상용 서비스 환경에 최적화된 엔터프라이즈 오픈소스 대형 모델 추론 플랫폼.
신규 등록 시 1달러 상당의 테스트 크레딧이 제공되며 수십 밀리초 수준의 초고속 첫 토큰 응답 속도를 경험할 수 있습니다.
Meta에서 PyTorch 및 대형 모델 추론 최적화를 이끌었던 핵심 엔지니어들이 설립한 프로덕션급 AI 인프라 플랫폼입니다. 압도적으로 빠른 첫 토큰 응답 시간(TTFT)과 뛰어난 비용 효율성을 강점으로 하며, 다양한 오픈소스 모델의 고속 API와 정교한 Function Calling 기능을 완벽 지원합니다.