- 迭代提示:直接在图节点内或使用 LangSmith playground 修改提示。
- 对数据集运行实验:在 LangSmith 数据集上执行您的助手,以评分和比较结果。
- 调试 LangSmith 跟踪:将跟踪运行导入 Studio,并可选择将其克隆到您的本地代理中。
- 将节点添加到数据集:将线程历史的一部分转换为数据集示例,用于评估或进一步分析。
迭代提示
Studio 支持以下修改图中提示的方法直接节点编辑
Studio 允许您直接从图界面编辑单个节点中使用的提示。图配置
定义您的配置,使用langgraph_nodes 和 langgraph_type 键指定提示字段及其关联节点。
langgraph_nodes
- 描述:指定配置字段与图的哪些节点关联。
- 值类型:字符串数组,其中每个字符串是图中节点的名称。
- 使用上下文:包含在 Pydantic 模型的
json_schema_extra字典或数据类的metadata["json_schema_extra"]字典中。 - 示例:
langgraph_type
- 描述:指定配置字段的类型,它决定了在 UI 中如何处理它。
- 值类型:字符串
- 支持的值:
"prompt":表示字段包含应在 UI 中特殊处理的提示文本。
- 使用上下文:包含在 Pydantic 模型的
json_schema_extra字典或数据类的metadata["json_schema_extra"]字典中。 - 示例:
完整配置示例
完整配置示例
在 UI 中编辑提示
- 在具有相关配置字段的节点上找到齿轮图标。
- 单击以打开配置模式。
- 编辑值。
- 保存以更新当前助手版本或创建新版本。
Playground
Playground 界面允许测试单个 LLM 调用,而无需运行整个图- 选择一个线程。
- 单击节点上的查看 LLM 运行。这会列出节点内进行的所有 LLM 调用(如果有)。
- 选择一个 LLM 运行以在 playground 中打开。
- 修改提示并测试不同的模型和工具设置。
- 将更新后的提示复制回您的图。
对数据集运行实验
Studio 允许您通过根据预定义的 LangSmith 数据集执行您的助手来运行评估。这使您可以测试各种输入下的性能,将输出与参考答案进行比较,并使用配置的评估器对结果进行评分。 本指南向您展示了如何直接从 Studio 运行完整的端到端实验。先决条件
在运行实验之前,请确保您拥有以下内容- LangSmith 数据集:您的数据集应包含您要测试的输入,以及可选的用于比较的参考输出。输入的模式必须与助手的所需输入模式匹配。有关模式的更多信息,请参阅此处。有关创建数据集的更多信息,请参阅如何管理数据集。
- (可选)评估器:您可以在 LangSmith 中将评估器(例如,作为评判者的 LLM、启发式方法或自定义函数)附加到您的数据集。这些将在图处理完所有输入后自动运行。
- 正在运行的应用程序:实验可以针对以下对象运行:
- 部署在 LangSmith 上的应用程序。
- 通过 langgraph-cli 启动的本地运行的应用程序。
实验设置
- 启动实验。单击 Studio 页面右上角的运行实验按钮。
- 选择您的数据集。在弹出的模式窗口中,选择用于实验的数据集(或特定的数据集拆分),然后单击开始。
- 监控进度。数据集中的所有输入现在都将针对活动助手运行。通过右上角的徽章监控实验进度。
- 您可以在 Studio 中继续工作,而实验在后台运行。随时单击箭头图标按钮以导航到 LangSmith 并查看详细的实验结果。
调试 LangSmith 跟踪
本指南解释了如何在 Studio 中打开 LangSmith 跟踪以进行交互式调查和调试。打开已部署的线程
- 打开 LangSmith 跟踪,选择根运行。
- 单击在 Studio 中运行。
使用远程跟踪测试本地代理
本节解释了如何根据 LangSmith 中的远程跟踪测试本地代理。这使您可以将生产跟踪用作本地测试的输入,从而允许您在开发环境中调试和验证代理修改。先决条件
- LangSmith 跟踪线程
- 一个本地运行的代理。
本地代理要求
- langgraph>=0.3.18
- langgraph-api>=0.0.32
- 包含与远程跟踪中存在的节点集相同
克隆线程
- 打开 LangSmith 跟踪,选择根运行。
- 点击在 Studio 中运行旁边的下拉菜单。
- 输入您本地代理的 URL。
- 选择本地克隆线程。
- 如果存在多个图,请选择目标图。
将节点添加到数据集
从线程日志中的节点向 LangSmith 数据集添加示例。这对于评估代理的单个步骤很有用。- 选择一个线程。
- 单击添加到数据集。
- 选择要将其输入/输出添加到数据集的节点。
- 对于每个选定的节点,选择目标数据集以创建示例。默认情况下,将选择特定助手和节点的数据集。如果此数据集尚不存在,则会创建它。
- 在将示例添加到数据集之前,根据需要编辑示例的输入/输出。
- 选择页面底部的添加到数据集以将所有选定节点添加到各自的数据集。
以编程方式连接这些文档到 Claude、VSCode 等,通过 MCP 获取实时答案。