跳到主要内容
本 Notebook 展示了如何在 LangChain 中使用 langchain.chat_models.ChatZhipuAI 调用 智谱AI API
GLM-4 是一个多语言大型语言模型,与人类意图对齐,具备问答、多轮对话和代码生成等能力。新一代基础模型 GLM-4 的整体性能相比上一代显著提升,支持更长的上下文;更强的多模态;支持更快的推理速度,更高的并发量,大大降低了推理成本;同时,GLM-4 增强了智能代理的能力。

入门

安装

首先,请确保您的 Python 环境中已安装 zhipuai 包。运行以下命令:
#!pip install -U httpx httpx-sse PyJWT

导入所需模块

安装后,将必要的模块导入到您的 Python 脚本中:
from langchain_community.chat_models import ChatZhipuAI
from langchain.messages import AIMessage, HumanMessage, SystemMessage

设置您的 API 密钥

登录 智谱AI 获取 API 密钥以访问我们的模型。
import os

os.environ["ZHIPUAI_API_KEY"] = "zhipuai_api_key"

初始化智谱AI聊天模型

以下是初始化聊天模型的方法:
chat = ChatZhipuAI(
    model="glm-4",
    temperature=0.5,
)

基本用法

像这样使用系统和用户消息调用模型:
messages = [
    AIMessage(content="Hi."),
    SystemMessage(content="Your role is a poet."),
    HumanMessage(content="Write a short poem about AI in four lines."),
]
response = chat.invoke(messages)
print(response.content)  # Displays the AI-generated poem

高级功能

流式支持

对于持续交互,请使用流式传输功能:
from langchain_core.callbacks.manager import CallbackManager
from langchain_core.callbacks.streaming_stdout import StreamingStdOutCallbackHandler
streaming_chat = ChatZhipuAI(
    model="glm-4",
    temperature=0.5,
    streaming=True,
    callback_manager=CallbackManager([StreamingStdOutCallbackHandler()]),
)
streaming_chat(messages)

异步调用

对于非阻塞调用,请使用异步方法:
async_chat = ChatZhipuAI(
    model="glm-4",
    temperature=0.5,
)
response = await async_chat.agenerate([messages])
print(response)

使用函数调用

GLM-4 模型也可以与函数调用一起使用,使用以下代码运行一个简单的 LangChain json_chat_agent。
os.environ["TAVILY_API_KEY"] = "tavily_api_key"
from langchain_classic import hub
from langchain.agents import AgentExecutor, create_json_chat_agent
from langchain_community.tools.tavily_search import TavilySearchResults

tools = [TavilySearchResults(max_results=1)]
prompt = hub.pull("hwchase17/react-chat-json")
llm = ChatZhipuAI(temperature=0.01, model="glm-4")

agent = create_json_chat_agent(llm, tools, prompt)
agent_executor = AgentExecutor(
    agent=agent, tools=tools, verbose=True, handle_parsing_errors=True
)
agent_executor.invoke({"input": "what is LangChain?"})

以编程方式连接这些文档到 Claude、VSCode 等,通过 MCP 获取实时答案。
© . This site is unofficial and not affiliated with LangChain, Inc.