基于晶圆级芯片的超极速大模型推理平台,生成速度突破每秒2000个 tokens
免费层提供每分钟30次请求与每天100万 tokens 额度供快速体验 Llama 3 系列推理
Cerebras Inference 采用颠覆性的 CS-3 晶圆级超级芯片驱动开源大模型推理。相较于传统 GPU 集群,Cerebras 能够以惊人的每秒2000个以上 tokens 的速度吐字输出 Llama 3 等大模型内容,几乎消除了等待感知,是开发交互式智能体与代码实时生成的强力利器。
点击下方按钮前往官方平台立即开启探索。