跳到主要内容
如果您已准备好将应用部署到云端,请按照云部署快速入门完整设置指南操作。本页面解释了云托管架构以供参考。
选项是一种完全托管模式,其中 LangChain 托管并运营所有 LangSmith 基础设施和服务。
  • 完全托管基础设施:LangChain 负责所有基础设施、更新、扩展和维护。
  • 从 GitHub 部署:连接您的存储库,然后点击几下即可部署。
  • 自动化 CI/CD:构建过程由平台自动处理。
  • LangSmith UI:完全访问可观察性评估部署管理Studio
谁管理运行位置
LangSmith 平台(UI、API、数据存储)LangChainLangChain 云端
您的 LangGraph 服务器LangChainLangChain 云端
您的应用的 CI/CDLangChainLangChain 云端
Cloud deployment: LangChain hosts and manages all components including the UI, APIs, and your LangGraph Servers.

入门

要将您的第一个应用程序部署到云端,请遵循云部署快速入门或参考综合设置指南

云架构与可扩展性

本节仅与可在 https://smith.langchain.comhttps://eu.smith.langchain.com 获得的云托管 LangSmith 服务相关。有关自托管 LangSmith 解决方案的信息,请参阅自托管文档
LangSmith 部署在 Google Cloud Platform (GCP) 上,旨在实现高可扩展性。许多客户在 LangSmith 上运行生产工作负载,用于 LLM 应用程序的可观察性、评估和代理部署。

架构

美国地区的 LangSmith 服务部署在 GCP 的 us-central1(爱荷华州)区域。
欧盟地区的 LangSmith 服务现已推出(截至 2024 年 7 月中旬),部署在 GCP 的 europe-west4(荷兰)区域。如果您对此区域的企业计划感兴趣,请联系我们的销售团队

区域存储

此表中的资源和服务存储在与注册时使用的 URL(美国或欧盟)对应的位置。云托管的 LangSmith 使用 Supabase 进行身份验证/授权,并使用 ClickHouse Cloud 作为数据仓库。
美国欧盟
URLhttps://smith.langchain.comhttps://eu.smith.langchain.com
API URLhttps://api.smith.langchain.comhttps://eu.api.smith.langchain.com
GCPus-central1 (爱荷华州)europe-west4 (荷兰)
SupabaseAWS us-east-1 (北弗吉尼亚)AWS eu-central-1 (德国)
ClickHouse Cloudus-central1 (爱荷华州)europe-west4 (荷兰)
LangSmith 部署us-central1 (爱荷华州)europe-west4 (荷兰)
有关更多信息,请参阅区域常见问题

区域独立存储

此处列出的数据仅存储在美国
  • 通过 Stripe 和 Metronome 进行支付和账单信息

GCP 服务

LangSmith 由以下服务组成,所有这些服务都部署在 Google Kubernetes Engine (GKE) 上:
  • LangSmith 前端:提供 LangSmith 用户界面。
  • LangSmith 后端:提供 LangSmith API。
  • LangSmith 平台后端:处理身份验证和其他高并发任务。(内部服务)
  • LangSmith Playground:处理将请求转发到各种 LLM 提供商以实现 Playground 功能。
  • LangSmith 队列:处理异步任务。(内部服务)
LangSmith 使用以下 GCP 存储服务:
  • Google Cloud Storage (GCS) 用于运行的输入和输出。
  • Google Cloud SQL PostgreSQL 用于事务性工作负载。
  • Google Cloud Memorystore for Redis 用于队列和缓存。
  • GCP 上的 Clickhouse Cloud 用于跟踪摄取和分析。我们的服务通过私有端点连接到与 Clickhouse Cloud 托管在同一 GCP 区域的 Clickhouse Cloud。
我们使用的一些额外 GCP 服务包括:
  • Google Cloud Load Balancer 用于将流量路由到 LangSmith 服务。
  • Google Cloud CDN 用于缓存静态资产。
  • Google Cloud Armor 用于安全和速率限制。有关我们强制执行的速率限制的更多信息,请参阅此指南
Light mode overview

IP 地址白名单

从 LangChain SaaS 出站

所有离开 LangSmith 服务的流量都将通过 NAT 网关路由。所有流量都将显示来自以下 IP 地址:
美国欧盟
34.59.65.9734.13.192.67
34.67.51.22134.147.105.64
34.46.212.3734.90.22.166
34.132.150.8834.147.36.213
35.188.222.20134.32.137.113
34.58.194.12734.91.238.184
34.59.97.17335.204.101.241
104.198.162.5535.204.48.32
如果连接到您自己的 Azure OpenAI 服务或其他 Playground 或在线评估可能需要的端点,将这些 IP 地址列入白名单可能会有所帮助。

进入 LangChain SaaS 入站

LangChain 端点映射到以下静态 IP 地址:
美国欧盟
34.8.121.3934.95.92.214
34.107.251.23434.13.73.122
您可能需要将这些 IP 地址列入白名单,以允许从您的私有网络到 LangSmith SaaS 端点(api.smith.langchain.comsmith.langchain.combeacon.langchain.comeu.api.smith.langchain.comeu.smith.langchain.comeu.beacon.langchain.com)的流量。
以编程方式连接这些文档到 Claude、VSCode 等,通过 MCP 获取实时答案。
© . This site is unofficial and not affiliated with LangChain, Inc.