Groq

Groq开发了世界上第一个语言处理单元™，或LPU. 这Groq LPU具有确定性的单核流式处理体系结构，可设定标准 为任何给定工作负载提供 GenAI 推理速度以及可预测和可重复的性能。

除了架构之外，Groq软件旨在为像您这样的开发人员提供支持 创建创新、强大的 AI 应用程序所需的工具。

使用 Groq 作为您的引擎，您可以：

• 为实时 AI 和 HPC 推理🔥实现不折不扣的低延迟和性能
• 了解任何给定工作负载🔮的确切性能和计算时间
• 利用我们的尖端技术，在竞争💪中保持领先地位

安装和设置

安装集成包：

pip install langchain-groq

请求 API 密钥并将其设置为环境变量：

export GROQ_API_KEY=gsk_...

聊天模型

请参阅使用示例。

from langchain_groq import ChatGroq

API 参考：ChatGroq