基于自研 LPU 语言处理芯片架构的全球极速大模型 API 推理引擎开发平台。
无需绑定信用卡即可直接创建 API Key,免费享受包括 Llama 3 与 Gemma 等模型每分钟数十次请求与极速每秒上千 Token 吞吐。
Groq 是全球生成式 AI 领域的推理解密先驱。其摒弃了传统英伟达 GPU 架构,独辟蹊径自研了专为自然语言与线性代数流式计算优化的 LPU 语言处理单元 Language Processing Unit。借助纯确定性的硬件流转,Groq 将开源大模型的输出速度提升至每秒 500 到 1000 个 Token 以上,使实时语音交互与超低延迟 Agent 真正成为现实。