要部署到 LangSmith(或进行自托管),应用程序必须配置配置文件。本操作指南讨论了使用pyproject.toml定义包依赖项来设置应用程序以进行部署的基本步骤。 此示例基于此存储库,该存储库使用 LangGraph 框架。 最终的存储库结构将如下所示:my-app/
├── my_agent # all project code lies within here
│ ├── utils # utilities for your graph
│ │ ├── __init__.py
│ │ ├── tools.py # tools for your graph
│ │ ├── nodes.py # node functions for your graph
│ │ └── state.py # state definition of your graph
│ ├── __init__.py
│ └── agent.py # code for constructing your graph
├── .env # environment variables
├── langgraph.json # configuration file for LangGraph
└── pyproject.toml # dependencies for your project
LangSmith 部署支持部署 LangGraph 图。但是,图的节点的实现可以包含任意 Python 代码。这意味着任何框架都可以在节点内实现并部署在 LangSmith 部署上。这使您可以将核心应用程序逻辑保留在 LangGraph 之外,同时仍然使用 LangSmith 进行部署、扩展和可观测性。
您也可以通过以下方式设置
requirements.txt:有关依赖项管理,请参阅此操作指南,了解如何在 LangSmith 中使用requirements.txt。
- 单体仓库:要部署位于单体仓库中的图,请参阅此存储库,了解如何操作的示例。
每一步之后,都会提供一个示例文件目录,以演示代码如何组织。
指定依赖项
依赖项可以选择在以下文件之一中指定:pyproject.toml、setup.py或requirements.txt。如果未创建这些文件,则可以在配置文件中稍后指定依赖项。 以下依赖项将包含在镜像中,您也可以在代码中使用它们,只要版本范围兼容:langgraph>=0.6.0
langgraph-sdk>=0.1.66
langgraph-checkpoint>=2.0.23
langchain-core>=0.2.38
langsmith>=0.1.63
orjson>=3.9.7,<3.10.17
httpx>=0.25.0
tenacity>=8.0.0
uvicorn>=0.26.0
sse-starlette>=2.1.0,<2.2.0
uvloop>=0.18.0
httptools>=0.5.0
jsonschema-rs>=0.20.0
structlog>=24.1.0
cloudpickle>=3.0.0
pyproject.toml文件示例
[build-system]
requires = ["hatchling"]
build-backend = "hatchling.build"
[project]
name = "my-agent"
version = "0.0.1"
description = "An excellent agent build for LangSmith."
authors = [
{name = "Polly the parrot", email = "1223+polly@users.noreply.github.com"}
]
license = {text = "MIT"}
readme = "README.md"
requires-python = ">=3.9"
dependencies = [
"langgraph>=0.6.0",
"langchain-fireworks>=0.1.3"
]
[tool.hatch.build.targets.wheel]
packages = ["my_agent"]
示例文件目录
my-app/
└── pyproject.toml # Python packages required for your graph
指定环境变量
环境变量可以选择在文件中指定(例如.env)。请参阅环境变量参考以配置部署的其他变量。 示例.env文件:MY_ENV_VAR_1=foo
MY_ENV_VAR_2=bar
FIREWORKS_API_KEY=key
示例文件目录
my-app/
├── .env # file with environment variables
└── pyproject.toml
默认情况下,LangSmith 遵循 uv/pip 的行为,即除非明确允许,否则不安装预发布版本。如果您想使用预发布版本,您有以下选项:
- 使用
pyproject.toml:在 [tool.uv] 部分添加 allow-prereleases = true。
- 使用
requirements.txt 或 setup.py:您必须明确指定每个预发布依赖项,包括传递性依赖项。例如,如果您声明 a==0.0.1a1 并且 a 依赖于 b==0.0.1a1,那么您也必须在您的依赖项中明确包含 b==0.0.1a1。
定义图
实现您的图。图可以在单个文件或多个文件中定义。记下要包含在应用程序中的每个CompiledStateGraph的变量名。这些变量名将在以后创建配置文件时使用。 agent.py文件示例,其中显示了如何从您定义的其他模块导入(模块代码此处未显示,请参阅此存储库以查看其实现):# my_agent/agent.py
from typing import Literal
from typing_extensions import TypedDict
from langgraph.graph import StateGraph, END, START
from my_agent.utils.nodes import call_model, should_continue, tool_node # import nodes
from my_agent.utils.state import AgentState # import state
# Define the runtime context
class GraphContext(TypedDict):
model_name: Literal["anthropic", "openai"]
workflow = StateGraph(AgentState, context_schema=GraphContext)
workflow.add_node("agent", call_model)
workflow.add_node("action", tool_node)
workflow.add_edge(START, "agent")
workflow.add_conditional_edges(
"agent",
should_continue,
{
"continue": "action",
"end": END,
},
)
workflow.add_edge("action", "agent")
graph = workflow.compile()
示例文件目录
my-app/
├── my_agent # all project code lies within here
│ ├── utils # utilities for your graph
│ │ ├── __init__.py
│ │ ├── tools.py # tools for your graph
│ │ ├── nodes.py # node functions for your graph
│ │ └── state.py # state definition of your graph
│ ├── __init__.py
│ └── agent.py # code for constructing your graph
├── .env
└── pyproject.toml
创建配置文件
创建一个名为langgraph.json的配置文件。有关配置文件 JSON 对象中每个键的详细说明,请参阅配置文件参考。 示例langgraph.json文件:{
"dependencies": ["."],
"graphs": {
"agent": "./my_agent/agent.py:graph"
},
"env": ".env"
}
请注意,CompiledGraph的变量名出现在顶级graphs键中每个子键的值的末尾(即:<variable_name>)。
配置文件位置 配置文件必须放置在与包含已编译图和相关依赖项的 Python 文件处于相同级别或更高级别的目录中。
示例文件目录
my-app/
├── my_agent # all project code lies within here
│ ├── utils # utilities for your graph
│ │ ├── __init__.py
│ │ ├── tools.py # tools for your graph
│ │ ├── nodes.py # node functions for your graph
│ │ └── state.py # state definition of your graph
│ ├── __init__.py
│ └── agent.py # code for constructing your graph
├── .env # environment variables
├── langgraph.json # configuration file for LangGraph
└── pyproject.toml # dependencies for your project
下一步
设置项目并将其放置在 GitHub 存储库中后,就可以部署您的应用程序了。