跳到主要内容
此功能仅适用于 Helm chart 0.10.27(应用程序版本 0.10.74)及更高版本。
许多模型提供者支持通过环境变量设置凭据和其他配置选项。这对于自托管部署非常有用,因为您希望避免在代码或配置文件中硬编码敏感信息。在 LangSmith 中,大多数模型交互通过 playground 服务完成,该服务允许您直接在 Pod 本身上配置许多环境变量。这有助于避免在 UI 中设置凭据。

要求

  • 正在运行 playground 服务的自托管 LangSmith 实例。
  • 您要配置的提供者必须支持用于配置的环境变量。请查阅提供者的聊天模型文档以获取更多信息。
  • 您可能希望附加到 playground 服务的密钥/角色。
    • 请注意,对于 IRSA,您可能需要授予 langsmith-playground 服务帐户访问云提供商中密钥或角色所需的权限。

配置

根据上述参数,您可以配置 LangSmith 实例以将环境变量用于模型提供者。您可以通过修改 LangSmith Helm Chart 安装的 langsmith_config.yaml 文件或 Docker 安装的 docker-compose.yaml 文件来完成此操作。
playground:
  deployment:
    extraEnv:
      - name: OPENAI_BASE_URL
        value: https://<my_proxy_url>
      - name: OPENAI_API_KEY
        valueFrom:
          secretKeyRef:
            name: <your_secret_name>
            key: api_key
  serviceAccount: # Can be useful if you want to use IRSA or workload identity
    annotations:
      eks.amazonaws.com/role-arn: <your_role_arn>

以编程方式连接这些文档到 Claude、VSCode 等,通过 MCP 获取实时答案。
© . This site is unofficial and not affiliated with LangChain, Inc.