초저지연 대형 모델 추론 및 맞춤형 모델 서빙에 특화된 고성능 서버리스 AI 인프라 플랫폼.
신규 등록 시 30달러 상당의 무료 크레딧이 제공되어 오픈소스 모델 추론 및 맞춤 가중치 배포를 테스트할 수 있습니다.
생성형 AI 모델 및 머신러닝 파이프라인을 프로덕션 환경에 즉각 배포할 수 있는 고성능 서버리스 플랫폼입니다. 자체 개발한 오픈소스 Truss 프레임워크를 기반으로 임의의 가중치를 컨테이너화하여 밀리초 수준의 자동 스케일링과 초저지연 API를 제공합니다.