跳到主要内容
自托管 LangSmith 是企业版计划的附加功能,专为我们规模最大、对安全性最敏感的客户设计。有关更多详细信息,请参阅我们的定价页面,如果您想获得许可证密钥以在您的环境中试用 LangSmith,请联系我们的销售团队
本指南提供了使用 Docker 在本地运行 LangSmith 平台的说明,用于开发和测试目的。
仅用于开发/测试。请勿将 Docker Compose 用于生产环境。对于生产部署,请使用Kubernetes
本页面描述了如何在本地测试中安装基础LangSmith 平台。它包括部署管理功能。有关更多详细信息,请查阅自托管选项
请注意,Docker Compose 仅限于本地开发环境,不支持 AWS Elastic Container Service、Azure Container Instances 和 Google Cloud Run 等容器服务。

先决条件

  1. 确保您的系统上已安装并运行 Docker。您可以通过运行以下命令进行验证
    docker info
    
    如果输出中没有显示任何服务器信息,请确保 Docker 已正确安装并启动 Docker 守护程序。
    1. 建议:您的机器上至少有 4 个 vCPU 和 16GB 内存。
      • 您可能需要根据组织规模/使用情况调整我们所有不同服务的资源请求/限制
    2. 磁盘空间:LangSmith 可能需要大量磁盘空间。请确保您有足够的可用磁盘空间。
  2. LangSmith 许可证密钥
    1. 您可以从您的 LangChain 代表处获取此密钥。联系我们的销售团队以获取更多信息。
  3. API 密钥盐
    1. 这是一个您可以生成的秘密密钥。它应该是一个随机字符串。
    2. 您可以使用以下命令生成此密钥
    openssl rand -base64 32
    
  4. 出站到 https://beacon.langchain.com(如果未在离线模式下运行)
    1. LangSmith 需要出站到 https://beacon.langchain.com 进行许可证验证和使用报告。这是 LangSmith 正常运行所必需的。您可以在出站部分找到有关出站要求的更多信息。
  5. 配置
    1. 您可以在 .env 文件中设置几个配置选项。您可以在配置部分找到有关可用配置选项的更多信息。

通过 Docker Compose 运行

以下说明了如何使用 Docker Compose 运行 LangSmith。这是在没有 Kubernetes 的情况下运行 LangSmith 最灵活的方式。Docker Compose 的默认配置仅用于本地测试,不适用于任何服务暴露于公共互联网的实例。在生产环境中,我们强烈建议使用安全的 Kubernetes 环境。

1. 获取 LangSmith docker-compose.yml 文件

您可以在 LangSmith SDK 仓库中找到 docker-compose.yml 文件及相关文件:LangSmith Docker Compose 文件 docker-compose.yml 文件和该目录中的所有文件从 LangSmith SDK 复制到您的项目目录。
  • 确保您也复制了 users.xml 文件。

2. 配置环境变量

  1. .env.example 文件从 LangSmith SDK 复制到您的项目目录并将其重命名为 .env
  2. .env 文件中配置适当的值。您可以在配置部分找到可用的配置选项。
您也可以直接在 docker-compose.yml 文件中设置这些环境变量,或在您的终端中导出它们。我们建议将它们设置在 .env 文件中。

3. 启动服务器

在您的终端中执行以下命令来启动 LangSmith 应用程序
docker-compose up
您还可以通过运行以下命令在后台运行服务器
docker-compose up -d

验证您的部署

  1. cli-langchain-frontend-1 容器的暴露端口进行 Curl 请求
    curl localhost:1980/info{"version":"0.5.7","license_expiration_time":"2033-05-20T20:08:06","batch_ingest_config":{"scale_up_qsize_trigger":1000,"scale_up_nthreads_limit":16,"scale_down_nempty_trigger":4,"size_limit":100,"size_limit_bytes":20971520}}
    
  2. 在浏览器中访问 cli-langchain-frontend-1 容器的暴露端口 LangSmith UI 应该在 https://:1980 可见/可操作 .langsmith_ui.png

检查日志

如果随时想要检查服务器是否正在运行并查看日志,请运行
docker-compose logs

停止服务器

docker-compose down

使用 LangSmith

LangSmith 现在正在运行,您可以开始使用它来追踪您的代码。您可以在自托管使用指南中找到有关如何使用自托管 LangSmith 的更多信息。 您的 LangSmith 实例现在正在运行,但可能尚未完全设置。 如果您使用了其中一个基本配置,您可能部署了一个无认证配置。在此状态下,没有认证或用户帐户或 API 密钥的概念,只要将主机名传递给 LangChain tracer/LangSmith SDK,就可以直接提交追踪而无需 API 密钥。 下一步,强烈建议您与您的基础设施管理员合作,以:
  • 为您的 LangSmith 实例设置 DNS 以方便访问
  • 配置 SSL 以确保提交到 LangSmith 的追踪在传输过程中加密
  • 为 LangSmith 配置oauth 认证基本认证以保护您的 LangSmith 实例
  • 保护对您的 Docker 环境的访问,将访问限制为仅 LangSmith 前端和 API
  • 将 LangSmith 连接到安全的 Postgres 和 Redis 实例

以编程方式连接这些文档到 Claude、VSCode 等,通过 MCP 获取实时答案。
© . This site is unofficial and not affiliated with LangChain, Inc.