AnythingLLM 本地部署完全指南：私有知识库文档问答

AnythingLLM 本地部署完全指南：私有知识库文档问答

【免费下载链接】anything-llmStop renting your intelligence. Own it with AnythingLLM. Everything you need for a powerful local-first agent experience项目地址: https://gitcode.com/GitHub_Trending/an/anything-llm

AnythingLLM 把你的 PDF、网页和 YouTube 字幕变成一套私有的文档问答系统：模型基于你上传的资料作答，数据留在你自己的机器上，不经过任何第三方服务。

系统要求与 Docker 一条命令跑起来

先核对环境：Windows 10 以上、macOS 10.14 以上或 Ubuntu 18.04 以上；如果走手动安装路线，需要先装 Node.js 18 以上。大多数人推荐 Docker 路线，所有组件打在一个容器里，数据目录已帮你挂好卷。

先克隆仓库：

git clone https://gitcode.com/GitHub_Trending/an/anything-llm

进入 docker 目录，构建并启动容器：

cd anything-llm/docker docker compose up --build

构建完成后浏览器打开http://localhost:3001，会看到初始向导让你选第一个模型。想改源码的进阶玩法一句话带过：装完依赖后，用yarn dev:server、yarn dev:collector、yarn dev:frontend在三个终端分别拉起后端、文档采集器与界面。

先选模型，再选向量数据库

向导里第一步是 LLM 提供商。不想为 API 付费、也没有 GPU 的，选 Ollama、LM Studio 或 LocalAI，把本地服务的地址填进去即可；想要省心就用 OpenAI、Anthropic、Google Gemini、Azure OpenAI、AWS Bedrock 这类云端接口，粘贴 API Key、挑一个型号，保存。

模型存好后选向量数据库，这里存放所有文档的嵌入结果。默认 LanceDB 是文件型的，零额外依赖，直接跳过即可；如果你手头已有 pgvector、Chroma、Qdrant、Weaviate、Pinecone、Milvus、Zilliz Cloud 或 Astra DB，就选对应项，填好地址和 Key。顺序别反了：没有模型，向量库里的数据只是没人问的一堆数字。

资料喂得越多，回答越准

工作区建好后点上传按钮。PDF、DOCX、TXT 直接拖进去；粘贴一个网页链接，它会抓取正文并转成文本入库；丢一个 YouTube 链接，它把字幕拉出来建索引，视频里的内容同样能被问到。

要记住一条：模型不会凭空了解你的资料。你索引的文档来源越多，回答越有据可依；如果它开始泛泛而谈，多半是覆盖面不够，而不是模型不行。

发第一个问题，盯住引用

第一批文档索引完成后，问一个只有资料里才有的问题。AnythingLLM 会在回答里附上出处标注，点开能直接跳到原文对应段落，你可以逐句核对它到底从哪份文档里找的答案。

如果引用为空，或者答非所问，先查两处：文档是否还在"处理中"状态；嵌入（Embedding）模型是否和导入文档时用的是同一个，两者不一致时检索会直接失效。

多用户、视频、端口与备份

Docker 版支持多用户：管理员后台创建账号，按工作区划分每个人能看什么、能问什么。视频是一等公民，YouTube 内容自动转文字入库，答案里能标出观点出自哪个视频。

网络层面的三件事都在.env里解决：改SERVER_PORT换端口，默认 3001；ENABLE_HTTPS设为 true 并填上证书与私钥路径，服务直接以 HTTPS 起；想上域名和反向代理，用 nginx 把 3001 端口转发出去就行。备份只有一份清单：整目录拷走server/storage（SQLite 库和文档都在里面），再带上向量库的数据。

常见症状与对应动作

• 页面打不开，提示端口占用→ 改docker/.env里的SERVER_PORT为其他值，重启容器。
• 容器启动即退出→ 确认.env已从.env.example生成，本地 Node 版本不低于 18。
• 文档上传完却问不出东西→ 嵌入模型与文档导入时不一致，统一后重新导入。
• 本地模型连不上→ Ollama/LocalAI 服务没起；容器内访问宿主机要用host.docker.internal，不是localhost。

跑完这些步骤，你的私有知识库已经在 3001 端口上了——下次再被问"资料在哪"，直接让他去问模型。

【免费下载链接】anything-llmStop renting your intelligence. Own it with AnythingLLM. Everything you need for a powerful local-first agent experience项目地址: https://gitcode.com/GitHub_Trending/an/anything-llm