Baseten 是一家提供所有必要基础设施的供应商,可帮助您高性能、可靠且可扩展地部署和提供机器学习模型。
作为模型推理平台,Baseten在 LangChain 生态系统中是一个Provider。Baseten集成目前实现了Chat Models和Embeddings组件。
Baseten允许您通过指定模型 slug 在模型 API 上访问 Kimi K2 或 GPT OSS 等开源模型,并通过指定model_url在专用部署上运行专有或微调模型。
安装和设置
要将 Baseten 模型与 LangChain 一起使用,您需要两样东西- 一个 Baseten 帐户
- 一个 API 密钥
BASETEN_API_KEY 的环境变量。
聊天模型(模型 API 和专用部署)
查看使用示例。嵌入(仅限专用部署)
查看使用示例。以编程方式连接这些文档到 Claude、VSCode 等,通过 MCP 获取实时答案。