Groq

Groq开发了世界上第一款语言处理单元™，即LPU。 Groq LPU具有确定性的单核流式架构，为生成式AI推理速度树立了标准，能够为任何给定工作负载提供可预测且可重复的性能。

除了架构之外，Groq 软件旨在赋予您这样的开发者所需的工具，以创建创新且强大的 AI 应用程序。

借助 Groq 作为您的引擎，您可以：

• 实现实时 AI 和高性能计算推理的无妥协低延迟与高性能 🔥
• 了解任何给定工作负载的确切性能和计算时间 🔮
• 利用我们尖端的技术，在竞争中保持领先 💪

安装与设置

安装集成包：

pip install langchain-groq

申请一个 API 密钥 并将其设置为环境变量：

export GROQ_API_KEY=gsk_...

聊天模型

查看 使用示例。

from langchain_groq import ChatGroq

API 参考:ChatGroq