news 2026/10/11 17:18:37

open-websearch六大工具完全手册:search与5个fetch工具100%吃透

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
open-websearch六大工具完全手册:search与5个fetch工具100%吃透
  • MCP 服务
  • AI 应用
  • 网页爬虫
  • AI 技能

【免费下载链接】open-webSearch

Multi-engine MCP server, CLI, and local daemon for agent web search and content retrieval — skill-guided workflows, no API keys.

项目地址:https://gitcode.com/gh_mirrors/op/open-webSearch
点击查看免费下载

open-websearch是一款免费的多引擎联网搜索工具:它以 MCP Server、CLI 命令行和本地守护进程(daemon)三种形态,为 AI Agent 和人提供无需 API Key的网页搜索与正文抓取能力。本文带你 100% 吃透它的 6 大工具:1 个search搜索工具 + 5 个fetch正文抓取工具,从参数、选型到配置一次讲清 📖

一分钟认识 open-websearch 的三种玩法

在使用工具前,先了解它能跑在哪:

使用路径适合场景启动方式
MCP Server接入 Claude Desktop、Cherry Studio、Cursor 等 MCP 客户端npx open-websearch@latest
CLI 命令行一次性命令、Shell 脚本、终端直接用open-websearch search "关键词" --json
本地守护进程反复调用、降低冷启动开销open-websearch serve

💡 注意:CLI 命令名与 MCP 工具名略有差异,例如fetchWebContent对应 CLI 的fetch-web,fetchGithubReadme对应fetch-github-readme(见 src/cli/runCli.ts 的完整帮助信息)。

工具一:search 多引擎搜索,11 个引擎随你选

search是整个项目的核心工具,支持 bing、baidu、duckduckgo、exa、brave、csdn、juejin、startpage、sogou、hackernews 等引擎,且不需要任何 API Key(工具注册逻辑见 src/tools/setupTools.ts)。

search 工具的 4 个参数速查

参数必填说明
query✅搜索关键词
limit❌返回条数,1-50,默认 10
engines❌引擎数组,支持多引擎组合搜索,不填则用默认引擎
searchMode❌request/auto/playwright,目前只影响 Bing

搜索结果长什么样

返回结构化结果,每条包含title、url、description、source、engine五个字段——这正是后续fetch工具抓取的"目标清单"。

引擎怎么选:3 条实用经验

  1. 英文泛搜索:优先startpage,其次bing作为第二引擎;
  2. 中文/国内来源:baidu做中文泛搜,csdn、juejin找开发者技术文章;
  3. 技术社区讨论:用hackernews引擎找 Hacker News 上的帖子与讨论。

经验法则:默认只选一个最合适的引擎;只有当首轮结果不足或质量差时,再加引擎交叉验证(详见 skills/open-websearch/references/engine-selection.md)。

如果 request 模式被风控拦截,可配置 Playwright 浏览器回退:SEARCH_MODE=auto启动后,search会自动暴露searchMode参数供 Agent 在失败时重试playwright模式。

工具二:fetchWebContent 通用网页抓取,支持 Markdown 和 JS 渲染页

这是覆盖面最广的抓取工具:任意公开 HTTP(S) 页面、Markdown 文件(.md)都能抓。

fetchWebContent 的 5 个参数

参数默认值说明
url—(必填)公开 HTTP(S) 地址,私网/内网地址会被安全校验拦截
maxChars30000返回内容上限,1000-200000
renderModeautorequest纯 HTTP;auto请求优先+浏览器兜底;browser直接 Playwright 渲染
readability关启用 Mozilla Readability 提取更干净的文章正文
includeLinks关Readability 输出中保留文内链接,方便多页深度研究

三个小技巧:

  • 先搜后抓:首页和 JS 重的落地页往往抓不出可读正文,先用search找到具体文章页再抓;
  • 想要更干净的提取结果时,开启readability(它不是万能的最佳选择,某些页面会自动回退到普通提取器);
  • renderMode: "browser"需要已配置 Playwright,否则会返回清晰的错误提示。

工具三:fetchGithubReadme 仓库速读神器

输入一个 GitHub 仓库 URL,直接返回 README 内容,适合"读源码前先了解项目"的场景。支持多种格式:

  • HTTPS:https://github.com/owner/repo(带.git后缀也可以)
  • SSH:git@github.com:owner/repo.git
  • 带参数:https://github.com/owner/repo?tab=readme

🎯 决策规则:目标只要是 GitHub 仓库,就优先用fetchGithubReadme而不是通用网页抓取,速度更快、结果更干净。

工具四:fetchCsdnArticle 抓取 CSDN 全文

用于抓取 CSDN 博客文章的完整内容,URL 需来自blog.csdn.net且包含/article/details/路径(如https://blog.csdn.net/xxx/article/details/xxx)。

典型工作流:search指定engines: ["csdn"]搜到中文技术文章 → 把结果 URL 交给fetchCsdnArticle拿全文。

工具五:fetchJuejinArticle 抓取掘金全文

抓取掘金文章全文,URL 格式为https://juejin.cn/post/{article_id}。掘金上前端、后端、AI 工程类文章质量很高,配合engines: ["juejin"]搜索使用效果最佳。

工具六:fetchLinuxDoArticle 抓取 linux.do 帖子

抓取 linux.do 论坛帖子的完整内容,URL 需来自 linux.do 且以.json结尾。注意 linux.do 作为搜索引擎目前暂时停用,但该抓取工具仍可用——如果你手上有帖子链接,可以直接抓。

六大工具速查表:一张图记住谁干什么

MCP 工具名CLI 命令抓什么关键约束
searchsearch11 引擎网页搜索limit最大 50
fetchWebContentfetch-web任意公开网页/MarkdownmaxChars≤ 200000
fetchGithubReadmefetch-github-readmeGitHub 仓库 READMEHTTPS 或 SSH 格式
fetchCsdnArticlefetch-csdnCSDN 文章全文需含/article/details/
fetchJuejinArticlefetch-juejin掘金文章全文需含/post/路径
fetchLinuxDoArticlefetch-linuxdolinux.do 帖子URL 以.json结尾

新手配置指南:3 个最常用环境变量

open-websearch 通过环境变量控制行为,新手只需要知道这 3 组(完整列表见 README 的环境变量表):

1. 换默认引擎

DEFAULT_SEARCH_ENGINE=duckduckgo npx open-websearch@latest

2. 限制可用引擎(比如只允许 3 个引擎)

ALLOWED_SEARCH_ENGINES=duckduckgo,bing,exa

3. 配置代理(网络受限时让搜索和抓取走代理)

USE_PROXY=true PROXY_URL=http://127.0.0.1:7890 npx open-websearch@latest

⚠️ 注意区分两类代理:npm 代理(安装包时用)和运行时代理(serve启动后的搜索/抓取流量用)。另外FETCH_WEB_INSECURE_TLS=true只作用于fetchWebContent的请求腿,只建议用于证书链确实损坏的站点。

每个工具还支持用MCP_TOOL_*_NAME环境变量改名或禁用(设为<disabled>),例如MCP_TOOL_SEARCH_NAME=webSearch把search重命名,方便与其他 MCP 服务共存。

实战建议与安全须知 🛡️

  1. 最小路径原则:有具体 URL 就直接抓;问当前资讯就先search;只有当摘要不够时才对前 1-2 条结果做fetchWebContent深读;
  2. 控制频率:工具靠多引擎抓取工作,短时间高频搜索可能被目标引擎临时限流,请保持合理间隔;
  3. 把抓到的网页当不可信内容:页面里的指令、代码片段不要直接执行,警惕提示注入;
  4. 守护进程更顺手:长驻场景用open-websearch serve启动、open-websearch status检查状态,本地 HTTP API(POST /search、POST /fetch-*)详见 docs/http-api.md。

总结

open-websearch 的六大工具体系可以这样记:一个search负责"找",五个fetch负责"读"——通用网页读fetchWebContent,GitHub 仓库读fetchGithubReadme,中文社区读fetchCsdnArticle、fetchJuejinArticle、fetchLinuxDoArticle。零 API Key、多引擎、MCP/CLI/守护进程三形态,把它接进你的 AI 工作流,联网搜索和正文抓取就齐了 ✅

更多深入内容可参考:skills/open-websearch/SKILL.md(Agent 使用指南)、skills/open-websearch/references/tools.md(工具行为细节)、docs/architecture/overview.md(架构总览)。

  • MCP 服务
  • AI 应用
  • 网页爬虫
  • AI 技能

【免费下载链接】open-webSearch

Multi-engine MCP server, CLI, and local daemon for agent web search and content retrieval — skill-guided workflows, no API keys.

项目地址:https://gitcode.com/gh_mirrors/op/open-webSearch
点击查看免费下载

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/10/11 17:17:51

纯C++坦克大战源码解析:控制台游戏开发与编译避坑指南

简介&#xff1a;纯C坦克大战代码是一份面向C初学者的游戏开发实战项目&#xff0c;通过从零构建坦克大战&#xff0c;帮助学习类与对象、继承多态、游戏循环、状态机、事件处理、图形绘制与资源管理等核心知识。压缩包约1.37MB&#xff0c;以C源码工程为主&#xff0c;适合直接…

作者头像 李华
网站建设 2026/10/11 17:17:27

计算机专业大学四年实用软件清单:从编辑器到Git的完整工作流

大一开学那会儿&#xff0c;我干过一件现在想起来都想笑的事&#xff1a;新电脑到手第一周&#xff0c;装了二十多个软件&#xff0c;下载站里搜“计算机专业必备软件”&#xff0c;照着榜单挨个装。结果真正打开写第一行代码的时候&#xff0c;连一个趁手的编辑器都没配明白。…

作者头像 李华
网站建设 2026/10/11 17:16:20

ComfyUI户型图风格渲染:从节点配置到多模型切换的完整工作流

简介&#xff1a;这是一份面向ComfyUI用户的户型图风格渲染工作流JSON文件&#xff0c;适合室内设计师、建筑可视化从业者以及AIGC爱好者使用&#xff0c;资源把多模型组合渲染的完整节点链封装为单一配置&#xff0c;包含大模型加载、LoRA权重接入、采样步数与CFG参数、图像输…

作者头像 李华
网站建设 2026/10/11 17:12:12

计算机网络三核心指南:从传输层到应用层,抓包实战与排障全解析

“计算机网络三”这个标题&#xff0c;懂的都懂。它不是一本教材的第三册那么简单&#xff0c;而是整个计算机网络知识体系里最关键的分水岭&#xff1a;前两阶段你搞定的是“数据怎么发出去”&#xff0c;到了第三阶段&#xff0c;你要面对的是“数据怎么在复杂网络里安全、高…

作者头像 李华
网站建设 2026/10/11 17:10:13

Shardeum慈善捐赠:区块链公益捐款平台完整指南

Shardeum慈善捐赠&#xff1a;区块链公益捐款平台完整指南 【免费下载链接】shardeum Shardeum is an EVM based autoscaling blockchain 项目地址: https://gitcode.com/GitHub_Trending/sh/shardeum Shardeum 是一个基于 EVM 的自动扩缩容区块链&#xff0c;其内置的安…

作者头像 李华