프론티어 모델의 토큰 비용을 최대 73% 자체 압축 절감하는 에이전트 라우팅 게이트웨이
게이트웨이 핵심 로직 및 토큰 압축 알고리즘이 오픈소스로 공개되어 라이선스 비용 없이 무료 적용 가능
Neon 과 Mubit 이 공동 개발한 차세대 에이전트 라우팅 게이트웨이입니다. 에이전트와 상위 대형 모델 사이에 동적 컨텍스트 압축 및 의도 캐싱 계층을 도입하여, 추론 정확도와 도구 호출 성공률을 그대로 유지하면서 불필요한 대화 기록과 장황한 사고 과정을 효율적으로 정제해 고비용 API 청구액을 70% 이상 절감합니다.