专为自建私有化 AI 打造的基础设施底座,提供轻量统一的节点编排、模型加载与高可用路由。
代码在 GitHub 完全开源,允许免费自建部署高可用模型推理基础设施。
Goethe 是一套面向开源社区与企业私有化场景打造的模型基础设施底座。在脱离公有云、自建私有 GPU 服务器集群时,开发者往往在多卡负载均衡、模型热插拔更新、动态显存回收以及跨节点容灾编排上面临繁琐的工程挑战。Goethe 提供了极简的轻量控制平面,以极低资源开销协调计算节点,无缝串联本地推理后端,并向上暴露标准的微服务统一入口,让自建私有算力池达到企业级生产可用标准。