文档大纲

OpenClaw(龙虾)smart-web-fetch 保姆级教程:网页抓取又快又省 Token

你是不是在用 OpenClaw(龙虾)AI 代理抓取网页时,遇到网页乱码、广告太多、Token 消耗爆表的问题?今天给大家安利一个超实用的 Skills——smart-web-fetch,一键替代原生网页抓取工具,自动清洗内容、省一半以上 Token,小白跟着做就能上手!

一、先搞懂:smart-web-fetch 到底是什么?

OpenClaw 原生自带web_fetch网页抓取功能,但它会把网页的广告、导航栏、代码、样式全抓下来,不仅 AI 看不懂,还疯狂消耗 Token(花钱)。

smart-web-fetch是 OpenClaw 的官方增强技能,核心作用:

  • 完全替代原生web_fetch,不用改原有操作
  • 自动用 Jina Reader、markdown.new、defuddle.md 三大清洗服务,把网页变成无广告、纯干净的 Markdown 文本
  • 多级降级兜底:一个服务挂了自动切下一个,永不翻车
  • 直接省50%-80%的Token,抓取效率拉满

简单说:它就是龙虾的网页清洁神器 + 省钱神器!

二、安装前准备(1 分钟搞定)

安装前只需要确保 2 个基础工具装好:

  1. 已安装Node.js(官网下载一路下一步就行)
  2. 已装好 OpenClaw 和 ClawHub(技能管理工具)如果没装,打开电脑终端(Windows 用 CMD/PowerShell,Mac 用终端),执行这 2 行命令:
# 安装OpenClaw
npm install -g openclaw@latest
# 安装ClawHub技能管理器
npm install -g clawhub@latest

安装完输入clawhub -v,有版本号就说明成功啦~

三、2 种安装方法,任选一种就能用

方法 1:命令行一键安装(推荐,最快)

直接在终端输入1 行命令,自动安装 + 配置,全程不用管:

clawhub install smart-web-fetch

看到Installed successfully就搞定!

方法 2:网页一键安装(纯小白,不用敲代码)

  1. 打开浏览器,访问技能页面:https://clawhub.ai/Leochens/smart-web-fetch
  2. 点击页面上的安装按钮,发给你的 OpenClaw(龙虾)助手
  3. 等待提示安装完成,直接用

四、安装后,是否需要手动设为默认首选?

装了 smart-web-fetch 用来替代原生 web_fetch,还需要去 OpenClaw 里改设置、指定默认吗?

结论先说:

正常情况下,完全不需要额外设置,安装即自动生效。

  • smart-web-fetch 在安装时会自动注册为更高优先级的网页抓取工具
  • OpenClaw 在需要抓取网页时,会优先调用 smart-web-fetch
  • 原生 web_fetch 会被自动覆盖,不会再走原始杂乱的网页抓取逻辑

如何验证它已经是默认首选?

你可以在终端输入这条命令,查看技能状态:

openclaw skills list

如果在列表里看到:

  • smart-web-fetch 状态为 ready
  • 且标注为 web_fetch 替代技能就说明已经默认首选,不用动任何配置。

特殊情况:如果没自动生效,手动指定默认(超简单)

极少数情况下,因为版本或缓存问题,smart-web-fetch 没有自动接管。

你只需要两步,手动把它设为默认网页抓取工具:

  1. 打开 OpenClaw 配置目录
    • Windows:C:\Users\你的用户名\.openclaw\config.json
    • Mac/Linux:~/.openclaw/config.json
  2. 在 skills 配置段中添加 / 修改优先级:
{
  "skills": {
    "defaultFetch": "smart-web-fetch"
  }
}
  1. 保存文件,重启 OpenClaw 即可。

这样设置后,系统会强制把 smart-web-fetch 作为唯一默认的网页抓取工具,彻底禁用原生方式。


五、怎么用?2 种方式,自动 / 手动都能行

方式 1:自动使用(完全无感,最省心)

安装完成后,你正常给龙虾发指令就行,比如:

AI 会自动调用 smart-web-fetch,输出干净的 Markdown 内容,不用你手动切换工具!

方式 2:手动命令行测试(想验证效果用)

如果想自己测试抓取效果,终端执行:

# 测试抓取示例网页,输出干净Markdown
python ~/.openclaw/skills/smart-web-fetch/scripts/fetch.py "https://example.com"

# 想输出JSON格式,加--json参数
python ~/.openclaw/skills/smart-web-fetch/scripts/fetch.py "https://example.com" --json

执行后就能看到无广告、纯正文的网页内容,对比原生抓取,清爽太多!

六、smart-web-fetch 核心优势,为什么必装?

  1. 智能多级兜底,永不失败优先用 Jina Reader→不行切 markdown.new→再不行用 defuddle.md→最后才用原生内容,稳得一批
  2. 极致省 Token清洗后内容比原始 HTML 小50%-80%,长期用能省一大笔模型费用
  3. 内容更干净自动过滤广告、导航、脚本、样式,只留核心正文,AI 理解更准确
  4. 默认优先,无需干预安装即自动覆盖原生 web_fetch,不用改配置、不用记命令

七、小白常见问题 Q&A

Q1:安装后没生效、还是在抓杂乱网页?

A:先重启 OpenClaw;再用openclaw skills list检查技能是否就绪;仍不行就按上面教程手动改config.json指定默认。

Q2:需要额外付费吗?

A:完全免费!清洗服务(Jina Reader 等)也是免费公开的,无隐藏收费。

Q3:所有网页都能抓吗?

A:公开网页基本都能抓;需要登录、有强反爬的网页,效果会受限,和原生工具一致。

Q4:卸载怎么操作?

A:终端执行clawhub uninstall smart-web-fetch,即可恢复原生 web_fetch。

总结

smart-web-fetch 是 OpenClaw 里性价比极高的必装基础技能,安装后自动成为默认首选抓取工具,不用复杂配置,一行命令就能让你的龙虾抓取网页更高效、内容更干净、花钱更少。

不管是做内容整理、信息采集,还是日常 AI 助手使用,装上它直接提升使用体验,小白也能零门槛上手!

阅读量: 485