跳到主要内容
本指南简要介绍了如何开始使用 BeautifulSoup4 文档加载器。有关 __ModuleName__Loader 所有功能和配置的详细文档,请参阅API 参考

概览

集成详情

类别本地可序列化JS 支持
BSHTMLLoaderlangchain-community

加载器功能

来源文档延迟加载原生异步支持
BSHTMLLoader

设置

要访问 BSHTMLLoader 文档加载器,您需要安装 langchain-community 集成包和 bs4 python 包。

凭据

使用 BSHTMLLoader 类不需要凭据。 要启用模型调用的自动跟踪,请设置您的 LangSmith API 密钥:
os.environ["LANGSMITH_API_KEY"] = getpass.getpass("Enter your LangSmith API key: ")
os.environ["LANGSMITH_TRACING"] = "true"

安装

安装 langchain-communitybs4
pip install -qU langchain-community bs4

初始化

现在我们可以实例化模型对象并加载文档
  • 待办:使用相关参数更新模型实例化。
from langchain_community.document_loaders import BSHTMLLoader

loader = BSHTMLLoader(
    file_path="./example_data/fake-content.html",
)

加载

docs = loader.load()
docs[0]
Document(metadata={'source': './example_data/fake-content.html', 'title': 'Test Title'}, page_content='\nTest Title\n\n\nMy First Heading\nMy first paragraph.\n\n\n')
print(docs[0].metadata)
{'source': './example_data/fake-content.html', 'title': 'Test Title'}

延迟加载

page = []
for doc in loader.lazy_load():
    page.append(doc)
    if len(page) >= 10:
        # do some paged operation, e.g.
        # index.upsert(page)

        page = []
page[0]
Document(metadata={'source': './example_data/fake-content.html', 'title': 'Test Title'}, page_content='\nTest Title\n\n\nMy First Heading\nMy first paragraph.\n\n\n')

向 BS4 添加分隔符

我们还可以传递一个分隔符,以便在 soup 上调用 get_text 时使用
loader = BSHTMLLoader(
    file_path="./example_data/fake-content.html", get_text_separator=", "
)

docs = loader.load()
print(docs[0])
page_content='
, Test Title,
,
,
, My First Heading,
, My first paragraph.,
,
,
' metadata={'source': './example_data/fake-content.html', 'title': 'Test Title'}

API 参考

有关 BSHTMLLoader 所有功能和配置的详细文档,请参阅 API 参考:python.langchain.com/api_reference/community/document_loaders/langchain_community.document_loaders.html_bs.BSHTMLLoader.html
以编程方式连接这些文档到 Claude、VSCode 等,通过 MCP 获取实时答案。
© . This site is unofficial and not affiliated with LangChain, Inc.