지능형 장애 우회 라우팅, 로드 밸런싱, 가드레일 및 통합 비용 관리를 제공하는 엔터프라이즈 프로덕션 LLM 게이트웨이.
오픈소스 AI Gateway는 완전 무료로 자체 구축할 수 있으며, 클라우드 콘솔에서도 매월 1만 회의 스마트 라우팅 및 감사 로그를 무료 제공합니다.
대형 언어 모델 기반 상용 서비스의 안정성과 보안을 완벽히 보장하는 엔터프라이즈 제어 플랫폼입니다. 200종 이상의 모델을 연결하는 초고속 AI Gateway를 바탕으로 지능형 장애 복구, 가중치 로드 밸런싱, 가드레일 필터링 및 가상 API 키 관리를 통합 제공합니다.