DeepInfra 让我们能够轻松运行最新的机器学习模型。DeepInfra 负责所有与模型运行、扩展和监控相关的繁重工作。用户可以专注于您的应用程序,并通过简单的 REST API 调用集成模型。
DeepInfra 提供了与 LangChain 集成的示例。本页面介绍如何在
LangChain 中使用 DeepInfra 生态系统。它分为两部分:安装和设置,以及特定 DeepInfra 包装器的引用。
安装和设置
- 点击此处获取您的 DeepInfra API 密钥。
- 获取 DeepInfra API 密钥并将其设置为环境变量(
DEEPINFRA_API_TOKEN)
可用模型
DeepInfra 提供了一系列可供部署的开源 LLM。 您可以查看支持文本生成和嵌入的模型。 您可以查看请求和响应参数列表。 聊天模型遵循 OpenAI APILLM
查看使用示例。嵌入
查看使用示例。聊天模型
查看使用示例。以编程方式连接这些文档到 Claude、VSCode 等,通过 MCP 获取实时答案。