你是不是在用 OpenClaw(龙虾)AI 代理抓取网页时,遇到网页乱码、广告太多、Token 消耗爆表的问题?今天给大家安利一个超实用的 Skills——smart-web-fetch,一键替代原生网页抓取工具,自动清洗内容、省一半以上 Token,小白跟着做就能上手!
一、先搞懂:smart-web-fetch 到底是什么?
OpenClaw 原生自带web_fetch网页抓取功能,但它会把网页的广告、导航栏、代码、样式全抓下来,不仅 AI 看不懂,还疯狂消耗 Token(花钱)。
smart-web-fetch是 OpenClaw 的官方增强技能,核心作用:
- 完全替代原生web_fetch,不用改原有操作
- 自动用 Jina Reader、markdown.new、defuddle.md 三大清洗服务,把网页变成无广告、纯干净的 Markdown 文本
- 多级降级兜底:一个服务挂了自动切下一个,永不翻车
- 直接省50%-80%的Token,抓取效率拉满
简单说:它就是龙虾的网页清洁神器 + 省钱神器!
二、安装前准备(1 分钟搞定)
安装前只需要确保 2 个基础工具装好:
- 已安装Node.js(官网下载一路下一步就行)
- 已装好 OpenClaw 和 ClawHub(技能管理工具)如果没装,打开电脑终端(Windows 用 CMD/PowerShell,Mac 用终端),执行这 2 行命令:
# 安装OpenClaw
npm install -g openclaw@latest
# 安装ClawHub技能管理器
npm install -g clawhub@latest
安装完输入clawhub -v,有版本号就说明成功啦~
三、2 种安装方法,任选一种就能用
方法 1:命令行一键安装(推荐,最快)
直接在终端输入1 行命令,自动安装 + 配置,全程不用管:
clawhub install smart-web-fetch
看到Installed successfully就搞定!
方法 2:网页一键安装(纯小白,不用敲代码)
- 打开浏览器,访问技能页面:https://clawhub.ai/Leochens/smart-web-fetch
- 点击页面上的安装按钮,发给你的 OpenClaw(龙虾)助手
- 等待提示安装完成,直接用
四、安装后,是否需要手动设为默认首选?
装了 smart-web-fetch 用来替代原生 web_fetch,还需要去 OpenClaw 里改设置、指定默认吗?
结论先说:
正常情况下,完全不需要额外设置,安装即自动生效。
- smart-web-fetch 在安装时会自动注册为更高优先级的网页抓取工具
- OpenClaw 在需要抓取网页时,会优先调用 smart-web-fetch
- 原生
web_fetch会被自动覆盖,不会再走原始杂乱的网页抓取逻辑
如何验证它已经是默认首选?
你可以在终端输入这条命令,查看技能状态:
openclaw skills list
如果在列表里看到:
- smart-web-fetch 状态为 ready
- 且标注为 web_fetch 替代技能就说明已经默认首选,不用动任何配置。
特殊情况:如果没自动生效,手动指定默认(超简单)
极少数情况下,因为版本或缓存问题,smart-web-fetch 没有自动接管。
你只需要两步,手动把它设为默认网页抓取工具:
- 打开 OpenClaw 配置目录
- Windows:C:\Users\你的用户名\.openclaw\config.json
- Mac/Linux:~/.openclaw/config.json
- 在 skills 配置段中添加 / 修改优先级:
{
"skills": {
"defaultFetch": "smart-web-fetch"
}
}
- 保存文件,重启 OpenClaw 即可。
这样设置后,系统会强制把 smart-web-fetch 作为唯一默认的网页抓取工具,彻底禁用原生方式。
五、怎么用?2 种方式,自动 / 手动都能行
方式 1:自动使用(完全无感,最省心)
安装完成后,你正常给龙虾发指令就行,比如:
- "帮我抓取https://baike.baidu.com/item/人工智能的内容"
- "把这个网页的核心内容整理成笔记"
- "总结这篇文章的要点"
AI 会自动调用 smart-web-fetch,输出干净的 Markdown 内容,不用你手动切换工具!
方式 2:手动命令行测试(想验证效果用)
如果想自己测试抓取效果,终端执行:
# 测试抓取示例网页,输出干净Markdown
python ~/.openclaw/skills/smart-web-fetch/scripts/fetch.py "https://example.com"
# 想输出JSON格式,加--json参数
python ~/.openclaw/skills/smart-web-fetch/scripts/fetch.py "https://example.com" --json
执行后就能看到无广告、纯正文的网页内容,对比原生抓取,清爽太多!
六、smart-web-fetch 核心优势,为什么必装?
- 智能多级兜底,永不失败优先用 Jina Reader→不行切 markdown.new→再不行用 defuddle.md→最后才用原生内容,稳得一批
- 极致省 Token清洗后内容比原始 HTML 小50%-80%,长期用能省一大笔模型费用
- 内容更干净自动过滤广告、导航、脚本、样式,只留核心正文,AI 理解更准确
- 默认优先,无需干预安装即自动覆盖原生 web_fetch,不用改配置、不用记命令
七、小白常见问题 Q&A
Q1:安装后没生效、还是在抓杂乱网页?
A:先重启 OpenClaw;再用openclaw skills list检查技能是否就绪;仍不行就按上面教程手动改config.json指定默认。
Q2:需要额外付费吗?
A:完全免费!清洗服务(Jina Reader 等)也是免费公开的,无隐藏收费。
Q3:所有网页都能抓吗?
A:公开网页基本都能抓;需要登录、有强反爬的网页,效果会受限,和原生工具一致。
Q4:卸载怎么操作?
A:终端执行clawhub uninstall smart-web-fetch,即可恢复原生 web_fetch。
总结
smart-web-fetch 是 OpenClaw 里性价比极高的必装基础技能,安装后自动成为默认首选抓取工具,不用复杂配置,一行命令就能让你的龙虾抓取网页更高效、内容更干净、花钱更少。
不管是做内容整理、信息采集,还是日常 AI 助手使用,装上它直接提升使用体验,小白也能零门槛上手!