AnythingLLM 教程：10 分钟搭建一个本地私有知识库问答应用

AnythingLLM 教程：10 分钟搭建一个本地私有知识库问答应用

【免费下载链接】anything-llmStop renting your intelligence. Own it with AnythingLLM. Everything you need for a powerful local-first agent experience项目地址: https://gitcode.com/GitHub_Trending/an/anything-llm

AnythingLLM 是一款自托管的本地 AI 应用：把文档导进去，接上一个 LLM，它就能变成会读你资料的问答助手。读完这篇文章，你能自己用 Docker 或源码把它跑起来、连上顺手的 LLM，并把第一批文档变成可对话的知识库。

它不是聊天插件，而是管文档、管答案的一体应用

先用三句话把它说清楚：

• AnythingLLM 把文档解析、向量存储、LLM 调用和聊天界面打包在一个应用里，装完即用，不用自己拼 RAG。
• 它解决的是很具体的问题：你想要一个基于自己资料的问答机器人，又不希望资料上传到别人的云端。
• 和零散工具相比，它默认就带了多用户权限、AI Agent、定时任务，Docker 版还能把聊天组件嵌进你的网站。

适合谁：需要把文档留在自己机器上的团队，以及不想把笔记交给第三方云服务的个人用户。

两条路跑起来：Docker 或本地

🚀 先说环境要求：Windows、macOS 或 Linux 都行；走本地安装则需要 Node 18 以上和 yarn。多用户管理和网页嵌入组件只在 Docker 版提供，所以如果你要给别人用，优先选 Docker 这条路。

路线一：Docker（最省事）

拉取代码仓库：

git clone https://gitcode.com/GitHub_Trending/an/anything-llm

进入目录并构建启动：

cd anything-llm docker-compose up --build

compose 文件实际放在docker/目录下，如果提示找不到配置文件，就进到docker/里再执行上一条命令。启动后浏览器打开 3001 端口，服务就绪后会输出访问地址和相关信息，确认无误即可使用。

路线二：本地装源码

在仓库根目录依次安装依赖并启动三个进程（三个命令各开一个终端）：

yarn install yarn dev:server

yarn dev:frontend yarn dev:collector

注意：第一次跑之前建议先执行yarn setup生成各模块的.env文件，并手动填好server/.env.development，否则后端起不来。

用之前，先把三件事配好

答案从哪来：接一个 LLM

不接 LLM，它就只是个搜索引擎。在设置的 LLM 偏好里选一个提供商：想完全本地化，选 Ollama、LM Studio 或 LocalAI，填上模型地址即可；想用云端服务，选 OpenAI、Anthropic 等，填入 API 密钥。配完之后，聊天窗口立刻就能得到模型的回答。

文档存在哪：向量数据库

文档内容要先转成向量，模型才能"读懂"再检索。默认用内置的 LanceDB，零配置、不需要额外装数据库进程；如果你已经在用 Pinecone、Qdrant、Weaviate、Chroma、Milvus，也可以直接在设置里切换过去。

谁能用：用户与权限

团队使用时要区分访问范围。Docker 版支持多用户：在管理面板创建账号，按工作区分配不同用户的访问权限。另外，如果你介意使用数据上报，在.env里把DISABLE_TELEMETRY设为true，就能关掉遥测。

搭好之后，可以立刻做的三件事

任务一：把一堆 PDF 变成可问答的知识库

把 PDF、Word、TXT 等文件拖进工作区的上传区，批量导入即可：

解析完成后，直接在聊天窗口提问，回答会附带来源引用，你能点回去核对原文是出自哪份文件。

任务二：喂给网页和视频内容

除了本地文件，导入区还能直接粘贴网页文章、博客链接，系统会把页面内容抽成文本入库。YouTube 视频也支持：它会提取字幕文字，让视频内容同样可检索。

任务三：让它定时干活

配置定时任务后，你可以按 cron 周期自动执行一段提示词，配合 Agent 能力定期浏览网页并汇总结果。比如每周一早上自动生成本周待办摘要，不用你手动发起。

卡住的时候，先看这里

• 3001 端口打不开：多半是端口被别的程序占用了。换一个端口（修改 compose 文件里的端口映射）或停掉占用进程。
• 本地装的后端起不来：检查.env是否填写完整，重新执行yarn setup并补全server/.env.development。
• 文档解析失败或报错：依次确认文件格式是否在支持列表内、网络能否正常访问、磁盘空间是否充足。
• 找不到多用户入口：多用户和网页嵌入组件仅 Docker 版提供，本地开发版看不到属正常现象。

延伸阅读与下一步

想继续深入，可以看项目内的这几份说明：

• Docker 用法详解：docker/HOW_TO_USE_DOCKER.md
• 不用 Docker 的生产部署：BARE_METAL.md
• 支持哪些文档格式：server/storage/documents/DOCUMENTS.md

到这里，你已经有了一个"什么都知道你的资料"的私有问答助手。下一步建议：先导入你最高频使用的那批文档，验证问答质量后再开多用户；如果要部署到云上，可以参考cloud-deployments/目录里 AWS、GCP、DigitalOcean 的现成模板，按对应说明一键生成资源。

【免费下载链接】anything-llmStop renting your intelligence. Own it with AnythingLLM. Everything you need for a powerful local-first agent experience项目地址: https://gitcode.com/GitHub_Trending/an/anything-llm