跳到主要内容
ModelScope 是一个大型的模型和数据集仓库。
本页面介绍了如何在 LangChain 中使用 ModelScope 生态系统。它分为两部分:安装和设置,然后是 ModelScope 特定包装器的引用。

安装

pip install -U langchain-modelscope-integration
前往 ModelScope 注册 ModelScope 并生成 SDK 令牌。完成此操作后,设置 MODELSCOPE_SDK_TOKEN 环境变量
export MODELSCOPE_SDK_TOKEN=<your_sdk_token>

聊天模型

ModelScopeChatEndpoint 类提供了 ModelScope 的聊天模型。可在此处查看可用模型。
from langchain_modelscope import ModelScopeChatEndpoint

llm = ModelScopeChatEndpoint(model="Qwen/Qwen2.5-Coder-32B-Instruct")
llm.invoke("Sing a ballad of LangChain.")

嵌入

ModelScopeEmbeddings 类提供了 ModelScope 的嵌入模型。
from langchain_modelscope import ModelScopeEmbeddings

embeddings = ModelScopeEmbeddings(model_id="damo/nlp_corom_sentence-embedding_english-base")
embeddings.embed_query("What is the meaning of life?")

LLMs

ModelScopeEndpoint 类提供了 ModelScope 的 LLM。
from langchain_modelscope import ModelScopeEndpoint

llm = ModelScopeEndpoint(model="Qwen/Qwen2.5-Coder-32B-Instruct")
llm.invoke("The meaning of life is")

以编程方式连接这些文档到 Claude、VSCode 等,通过 MCP 获取实时答案。
© . This site is unofficial and not affiliated with LangChain, Inc.