Hardcount
AI 开发平台 · 算力与运行底座 MIT 协议开源免费

Hardcount

自托管大语言模型 Token 计量与多租户成本核算基础设施,精准追踪 API 开销。

工具好评率 98%
43 人参与评价

免费额度与规则说明

单二进制或轻量容器随时拉起,无限调用次数与组织团队支持

功能深度解析与特色

Hardcount 是面向 AI 原生应用开发团队打造的高性能 Token 计量与成本追踪网关。系统支持以轻量级代理模式透明接入各类大模型调用接口,实时解析请求体并毫秒级写入时序计量账本。它支持针对不同组织租户、项目甚至单个最终用户配置多层级额度配额、预算熔断以及成本分摊报表,有效终结企业模型调用失控与费用黑洞问题。

界面实测与功能预览

🔒 https://github.com/pashpashpash/hardcount
Hardcount interface screenshot

小可实测优缺点评估

优势亮点

  • ✓ 极简单二进制或 Docker 极速部署,无沉重外部数据库依赖
  • ✓ 原生兼容各大模型厂商 API 规范,无缝透明代理毫秒级额外延迟
  • ✓ 细粒度租户配额控制与预算熔断防护,彻底告别天价模型账单

注意事项与限制

  • ✕ 目前侧重于后端服务与监控埋点,内置的前端仪表盘相对简练
  • ✕ 对于冷门自研小模型的自定计费单价需手动维护换算规则

准备好上手体验了吗?

点击下方按钮前往官方平台立即开启探索。

打开 Hardcount ↗

同类功能替代品推荐

💬 交流与问答

GitHub Powered