Hyperbrowser 是一个用于运行和扩展无头浏览器的平台。它允许您大规模启动和管理浏览器会话,并为任何网页抓取需求提供易于使用的解决方案,例如抓取单个页面或爬取整个网站。 主要特点:有关 Hyperbrowser 的更多信息,请访问 Hyperbrowser 网站,如果您想查看文档,可以访问 Hyperbrowser 文档。
- 即时可扩展性 - 在几秒钟内启动数百个浏览器会话,无需基础设施烦恼
- 简单集成 - 与 Puppeteer 和 Playwright 等流行工具无缝协作
- 强大的 API - 易于使用的 API,可抓取/爬取任何网站,以及更多功能
- 绕过反机器人措施 - 内置隐身模式、广告拦截、自动 CAPTCHA 解决和轮换代理
安装和设置
要开始使用langchain-hyperbrowser,您可以使用 pip 安装该软件包
HYPERBROWSER_API_KEY=<您的 API 密钥> 请务必从 https://app.hyperbrowser.ai/ 获取您的 API 密钥可用工具
Hyperbrowser 提供两类主要工具,它们特别适用于- 从复杂网站抓取和提取数据
- 自动化重复的网页任务
- 与需要身份验证的 Web 应用程序交互
- 跨多个网站进行研究
- 测试 Web 应用程序
浏览器代理工具
Hyperbrowser 提供了许多浏览器代理工具。目前我们支持- Claude 电脑使用
- OpenAI CUA
- 浏览器使用
浏览器使用工具
一个通用的浏览器自动化工具,可以通过自然语言指令处理各种网页任务。OpenAI CUA 工具
利用 OpenAI 的电脑使用代理功能进行高级网页交互和信息收集。Claude 电脑使用工具
利用 Anthropic 的 Claude 进行复杂的网页浏览和信息处理任务。网页抓取工具
以下是 Hyperbrowser 提供的网页抓取工具的简要说明。您可以在此处查看更多详情抓取工具
抓取工具允许您以 Markdown、HTML 或链接格式从单个网页提取内容。爬取工具
爬取工具使您能够从给定的 URL 开始遍历整个网站,并可配置页面限制。提取工具
提取工具使用 AI 根据预定义的架构从网页中提取结构化数据,非常适合数据提取任务。文档加载器
langchain-hyperbrowser 中的 HyperbrowserLoader 类可以轻松地用于从单个页面或多个页面加载内容以及爬取整个网站。内容可以加载为 Markdown 或 HTML。
高级用法
您可以指定加载器要执行的操作。默认操作是scrape。对于 scrape,您可以提供单个 URL 或要抓取的 URL 列表。对于 crawl,您只能提供单个 URL。crawl 操作将爬取提供的页面和子页面,并为每个页面返回一个文档。
params 参数中提供。有关支持参数的更多信息,请访问 https://docs.hyperbrowser.ai/reference/sdks/python/scrape#start-scrape-job-and-wait 或 https://docs.hyperbrowser.ai/reference/sdks/python/crawl#start-crawl-job-and-wait。
附加资源
以编程方式连接这些文档到 Claude、VSCode 等,通过 MCP 获取实时答案。