跳到主要内容
重要提示
自托管 LangSmith 是企业版计划的附加组件,专为我们最大、最注重安全性的客户设计。有关更多详细信息,请参阅定价。如果您想获取试用 LangSmith 的许可证密钥,请联系我们的销售团队
LangSmith 根据您的规模、安全性和基础设施需求支持不同的自托管配置。 您可以将 LangSmith 用于可观察性评估,而无需代理部署。或者,您可以设置完整的自托管平台,用于可观察性、评估和代理部署。另外,您也可以直接部署代理,而无需控制平面 本页概述了每种自托管模型:
模型包括最适合方法
可观察性与评估
  • LangSmith (UI + API)
  • 后端服务(队列、游乐场、ACE)
  • 数据存储:PostgreSQL、Redis、ClickHouse、可选的 blob 存储
  • 需要自托管可观察性、跟踪和评估的团队
  • 在不部署代理/图的情况下运行 LangSmith
  • Docker Compose(开发/测试)
  • Kubernetes + Helm(生产)
可观察性、评估与部署
  • 包括可观察性与评估的所有功能
  • 控制平面(部署 UI、修订管理、Studio)
  • 数据平面(LangGraph Server pods)
  • 用于编排的 Kubernetes 运算符
  • 需要私有 LangChain Cloud 的企业团队
  • 用于管理多个代理/图的集中式 UI/API
  • 集成可观察性与编排
  • Kubernetes with Helm(必需)
  • 运行在 EKS、GKE、AKS 或自管理集群上
独立服务器
  • LangGraph Server 容器
  • 需要 PostgreSQL + Redis(共享或专用)
  • 可选的 LangSmith 跟踪集成
  • 一个或几个代理的轻量级部署
  • 将 LangGraph 服务器集成到微服务中
  • 倾向于自行管理扩展和 CI/CD 的团队
  • Docker / Docker Compose(开发/测试)
  • Kubernetes + Helm(生产)
  • 任何容器运行时或 VM(ECS、EC2、ACI 等)
有关设置指南,请参阅支持的计算平台:Kubernetes(用于 LangSmith 部署),任何计算平台(用于独立服务器)

自托管 LangSmith 可观察性与评估

托管一个 LangSmith 实例,包括 UI 和 API 中的可观察性、跟踪和评估,但具备通过控制平面部署代理的能力。 这包括: 服务:
  • LangSmith 前端 UI
  • LangSmith 后端 API
  • LangSmith 平台后端
  • LangSmith 游乐场
  • LangSmith 队列
  • LangSmith ACE(任意代码执行)后端
存储服务
  • ClickHouse(跟踪和反馈数据)
  • PostgreSQL(操作数据)
  • Redis(队列和缓存)
  • Blob 存储(可选,但建议用于生产环境)
LangSmith 架构,显示服务和数据存储 要访问 LangSmith UI 并发送 API 请求,您需要暴露LangSmith 前端服务。根据您的安装方法,这可以是一个负载均衡器或主机上暴露的端口。

服务

服务描述
LangSmith 前端前端使用 Nginx 提供 LangSmith UI 并将 API 请求路由到其他服务器。这作为应用程序的入口点,是唯一必须暴露给用户的组件。
LangSmith 后端后端是 CRUD API 请求的主要入口点,并处理应用程序的大部分业务逻辑。这包括处理来自前端和 SDK 的请求,准备用于摄取的跟踪,以及支持中心 API。
LangSmith 队列队列处理传入的跟踪和反馈,以确保它们异步摄取并持久化到跟踪和反馈数据存储中,处理数据完整性检查,并确保成功插入到数据存储中,在数据库错误或暂时无法连接到数据库等情况下处理重试。
LangSmith 平台后端平台后端是另一个关键服务,主要处理身份验证、运行摄取和其他高容量任务。
LangSmith 游乐场游乐场是一个服务,负责将请求转发到各种 LLM API,以支持 LangSmith 游乐场功能。这也可以用于连接到您自己的自定义模型服务器。
LangSmith ACE(任意代码执行)后端ACE 后端是一个服务,负责在安全环境中执行任意代码。这用于支持在 LangSmith 中运行自定义代码。

存储服务

LangSmith 默认将捆绑所有存储服务。您可以将其配置为使用所有存储服务的外部版本。在生产环境中,我们强烈建议使用外部存储服务
服务描述
ClickHouseClickHouse 是一个用于在线分析处理(OLAP)的高性能、列式 SQL 数据库管理系统(DBMS)。

LangSmith 使用 ClickHouse 作为跟踪和反馈(高容量数据)的主要数据存储。
PostgreSQLPostgreSQL 是一个功能强大的开源对象关系数据库系统,它使用并扩展了 SQL 语言,并结合了许多功能,可以安全地存储和扩展最复杂的数据工作负载。

LangSmith 使用 PostgreSQL 作为事务性工作负载和操作数据(除了跟踪和反馈之外的所有数据)的主要数据存储。
RedisRedis 是一个功能强大的内存键值数据库,可持久化到磁盘。通过将数据保存在内存中,Redis 为缓存等操作提供了高性能。

LangSmith 使用 Redis 来支持队列和缓存操作。
Blob 存储LangSmith 支持多种 blob 存储提供商,包括 AWS S3Azure Blob 存储Google Cloud 存储

LangSmith 使用 blob 存储来存储大文件,例如跟踪工件、反馈附件和其他大数据对象。Blob 存储是可选的,但强烈建议用于生产部署。

设置方法

  • Docker Compose(仅限开发/测试)
  • Kubernetes + Helm(推荐用于生产环境)

设置指南

启用 LangSmith 部署

LangSmith 部署是一个可选的附加组件,可以在您的 LangSmith 实例上启用。它非常适合希望拥有一个集中式、UI 驱动的平台来部署和管理多个代理和图的企业团队,所有基础设施、数据和编排都完全由他们控制。 这包括 LangSmith 的所有功能,此外还有:
组件职责运行位置谁管理
  • 用于创建部署和修订的 UI
  • 用于部署管理的 API
您的云端
  • 用于协调部署的运算符/监听器
  • LangGraph 服务器(代理/图)
  • 后端服务(Postgres、Redis 等)
您的云端
您在自己的基础设施中完全运行控制平面和数据平面。您负责配置和管理所有组件。
了解有关控制平面数据平面架构概念的更多信息。
Full platform architecture with control plane and data plane

工作流程

如果您想自托管 LangSmith 以实现可观察性、评估和代理部署,请按照以下步骤操作
1

安装自托管 LangSmith

您必须已经在您的云中安装了一个自托管 LangSmith 实例,并带有一个 Kubernetes 集群(控制平面和数据平面必需)。
2

在本地测试您的图

使用 langgraph-cliStudio 在本地测试您的图。
3

启用 LangSmith 部署

按照设置指南在您的 LangSmith 实例上启用 LangSmith 部署。

独立服务器

独立服务器选项是运行 LangSmith 最轻量级和灵活的方式。与其他模型不同,您只管理一个简化的,由 LangGraph 服务器及其所需的后端服务(PostgreSQL、Redis 等)组成。 这包括:
组件职责运行位置谁管理
控制平面不适用不适用不适用
数据平面
  • LangGraph 服务器
  • Postgres、Redis 等
您的云端
此选项可让您完全控制扩展、部署和 CI/CD 管道,同时仍允许与 LangSmith 进行可选集成以进行跟踪和评估。
请勿在无服务器环境中运行独立服务器。缩减到零可能会导致任务丢失,并且扩展将无法可靠工作。
Standalone server architecture

工作流程

  1. 使用 langgraph-cliStudio 在本地定义和测试您的图
  2. 将您的代理打包为 Docker 镜像
  3. 将 LangGraph Server 部署到您选择的计算平台(Kubernetes、Docker、VM)
  4. 可选地,配置 LangSmith API 密钥和端点,以便服务器将跟踪和评估报告回 LangSmith(自托管或 SaaS)

支持的计算平台

  • Kubernetes:使用 LangSmith Helm 图表在 Kubernetes 集群中运行 LangGraph Server。这是生产级部署的推荐选项。
  • Docker:在任何支持 Docker 的计算平台(本地开发机器、VM、ECS 等)中运行。这最适合开发或小规模工作负载。

设置指南

要设置LangGraph Server,请参阅应用程序部署部分的操作指南

以编程方式连接这些文档到 Claude、VSCode 等,通过 MCP 获取实时答案。
© . This site is unofficial and not affiliated with LangChain, Inc.