开源 LLM 可观测性与网关平台,提供 API 费用追踪、延迟监控与缓存优化。
SaaS 免费层每月赠送 10 万次大模型请求监控额度;核心代码开源支持 Docker 完全免费私有化自建。
Helicone 是一款深受开发者喜爱的开源大模型 API 可观测性网关与分析控制台。只需在现有客户端中修改 Base URL 端点配置,即可实现对 OpenAI、Anthropic 等模型调用的全景可观测,包含精确到单次请求的 Token 计费消耗、端到端延迟分析、智能语义缓存以及防止请求滥用的速率限制功能。