Groq

Groq开发了世界上第一个语言处理单元™，即LPU。 Groq LPU具有确定性的单核流式架构，为任何给定工作负载提供了可预测和可重复的性能，设定了GenAI推理速度的标准。

除了架构之外，Groq 软件旨在为您这样的开发者提供所需的工具，以创建创新且强大的AI应用程序。

使用Groq作为您的引擎，您可以：

• 为实时AI和HPC推理实现无与伦比的低延迟和性能 🔥
• 了解任何给定工作负载的确切性能和计算时间 🔮
• 利用我们的尖端技术保持竞争优势 💪

安装与设置​

安装集成包：

pip install langchain-groq

请求一个API key并将其设置为环境变量：

export GROQ_API_KEY=gsk_...

聊天模型​

查看一个使用示例。

from langchain_groq import ChatGroq