langchain.llms import GradientLLM。导入
设置环境变量 API 密钥
请务必从 Gradient AI 获取您的 API 密钥。您将获得 10 美元的免费积分以测试和微调不同的模型。GRADIENT_ACCESS_TOKEN 和 GRADIENT_WORKSPACE_ID 以获取当前部署的模型。
创建 GradientLLM 实例
您可以指定不同的参数,例如模型名称、生成的最大令牌数、温度等。
加载工具
初始化 Agent
运行智能体
要求 Agent 记住一段文本。以编程方式连接这些文档到 Claude、VSCode 等,通过 MCP 获取实时答案。