Groq 开发了世界上第一个语言处理单元™,即LPU。Groq LPU具有确定性的单核流式架构,为 GenAI 推理速度设定了标准,可为任何给定工作负载提供可预测且可重复的性能。 除了架构之外,Groq软件旨在为您这样的开发人员提供创建创新、强大 AI 应用程序所需的工具。 以 Groq 作为您的引擎,您可以:
- 实现无与伦比的低延迟和高性能,用于实时 AI 和 HPC 推理 🔥
- 了解任何给定工作负载的确切性能和计算时间 🔮
- 利用我们的尖端技术,保持竞争优势 💪
安装和设置
安装集成包聊天模型
查看使用示例。以编程方式连接这些文档到 Claude、VSCode 等,通过 MCP 获取实时答案。