AI学习路线图：从大模型原理到Agent开发与模型部署

AI学习笔记

我花了大半年时间整理自己学习AI的完整笔记，今天把它重新梳理成一份可以直接照着用的路线图。这篇文章不是什么“七天精通大模型”的速成教程，而是我作为AI应用开发者，从只会调接口到能独立完成Agent开发、模型部署、产品落地的真实记录。如果你正在学AI、准备转行AI岗位，或者已经入行但总觉得知识太散、不知道下一步该学什么，这份笔记应该能帮你省下大量瞎试的时间。

先说结论：学AI最大的问题不是资料不够，而是你不知道自己处在哪个阶段、该补什么。我见过太多人一上来就啃Transformer论文，结果连“上下文窗口”和“训练数据”的关系都没搞清；也有人天天刷AI新闻，却从来没自己跑通一个完整的AI应用。所以这份笔记的核心思路是：以终为始，用项目倒逼学习。每一个知识点都对应一个实际能落地的场景，学了就能用，用了才能真学会。

1. 先想清楚：AI学习到底在学什么

1.1 为什么需要一份体系化的学习笔记

我刚开始学AI的时候，收藏了三百多个网页、十几个教程链接，但真正学完的不到5%。后来我发现问题出在“碎片化”上——今天看到一个提示词技巧觉得很厉害，明天刷到一个AI绘画教程又觉得很有趣，学了一周却发现串不起来。

我自己的学习节奏是：坚持用“一个知识点+一个实操项目+一篇复盘笔记”的方式推进。比如学RAG的时候，我不是只看文档，而是用FastAPI写了一个本地知识库问答接口，调用大模型的Embedding接口做向量化，再用向量数据库做检索。整个过程做完，我对RAG的理解才真正落地了。

这套笔记体系的第一个价值，是帮你建立一个清晰的AI知识地图。第二个价值，是让你能随时知道自己学过的内容属于哪个模块，哪些还缺着。我建议你也建一个自己的笔记模板，包含三个字段：“这个技术解决什么问题”“核心原理是什么”“我要怎么验证它”。坚持三个月，你会明显感觉到知识不再是零散的。

1.2 一张学习地图，把大模型到AI应用串起来

结合我自己的实践和当前AI岗位的需求，我把AI学习拆成了六个模块：模型认知、提示词与RAG、AI编程、AI智能体、模型部署、岗位技能。这不等于说每块都要精通，而是你要清楚自己当前主攻哪块，其他模块作为辅助。

每个模块内部也要有优先级。比如“模型认知”里，我建议你先搞懂Transformer的基本结构、预训练和微调的区别、上下文窗口的概念，暂时不用深究注意力机制的数学推导。等你在实际应用中遇到问题，比如“为什么模型生成结果不稳定”，再回头补原理，效果会好得多。

2. 从模型原理到AI编程：核心知识笔记

2.1 理解大模型的“求学”过程：从预训练到微调

很多人用ChatGPT、用各种国产大模型，但并不知道模型是怎么变聪明的。大模型的学习过程可以类比成一个大学生：预训练阶段像通识教育，模型读了几万亿字的书籍和网页，学会了语言规律和世界常识；微调阶段像专业课，用高质量的人工标注数据教模型学会对话、遵循指令、做特定任务。

这个认知非常重要，因为它决定了你怎么使用模型。预训练模型只会续写文本，如果你直接问它问题，得到的可能是“东扯西拉”的续写内容；只有经过指令微调后的模型，才具备问答能力。所以当你部署开源模型的时候，一定要搞清楚你下载的是“基座模型”还是“对话模型”，二者使用方式完全不同。

再往深一层，还有RLHF（基于人类反馈的强化学习）这一步，目的是让模型的回答更符合人类偏好。这也是为什么有些模型虽然参数一样，但“性格”和使用体验差别巨大。日常开发中，这些阶段直接影响到你选模型的口径：如果要做垂直领域问答，优先选已经针对性微调过的行业模型，而不是通用模型；如果要做内容创作，那模型的对齐偏好就要特别关注。

2.2 上下文窗口、RAG与提示词怎么选

这是我在实际项目中踩坑最多的一块。很多初学者会把所有希望寄托在提示词上，认为只要Prompt写得好，模型就能回答一切。但现实是，对于需要外部知识的问题，光靠提示词是不够的。

上下文窗口是模型一次能处理的最大Token数量，相当于模型的“工作记忆”。如果你把一本五百页的书直接塞给模型，即使窗口再大，它也会抓不住重点，还会导致处理速度变慢、成本飙升。更合理的做法是用RAG（检索增强生成）：先把文档切成小块做向量化，用户提问时先从向量数据库里检索出最相关的片段，再连同问题一起交给模型。

我最早做知识库问答的时候，走了不少弯路。一开始以为“把全部文档拼接给模型”就行，结果一次调用要几十万Token，费用高、响应慢，而且回答质量并没有变好。后来用RAG方案，只把检索到的5到10个片段喂给模型，效果立刻提升。这里再分享一个判断原则：知识型任务优先RAG，推理型任务优先提示词，本模型不会的优先微调。既不要滥用提示词，也不要一上来就微调，RAG是性价比最高的那块拼图。

2.3 AI编程实践：让模型帮我写代码的三个阶段

AI编程是我学AI之后效率提升最明显的方向，但也是让我心态波动最大的方向。最开始我只会把一个问题原样丢给编程助手，让它生成一整段代码，结果经常是代码能跑、但逻辑不对；后来我学会了拆任务、写清楚输入输出、主动告诉它约束条件，准确率提升了一个档次。这个过程我总结为三个阶段。

阶段一：把AI当搜索引擎用。找某个函数怎么写、某个框架API怎么用，比翻官方文档快。这时候不用给太复杂的上下文，问题越具体越好。

阶段二：把AI当结对编程搭子。让AI生成一个小模块、写单元测试、做代码审查。关键技巧是给出“上下文片段+明确需求+验收标准”。比如让AI写一个Python函数，你告诉它“输入是CSV路径，输出是过滤后的JSON列表，要求处理编码异常，返回错误信息”，它产出的代码基本能直接用。

阶段三：让AI参与架构设计。到了这个阶段，可以试着让AI帮你拆解需求、设计数据库表结构、规划微服务边界。需要注意，AI设计出来的架构不一定合理，但你把它当作一个免费的讨论对象，往往能激发你自己没想到的思路。我现在写代码的标配是：用AI生成初版代码，用代码审查工具查问题，自己负责核心逻辑和最终把关。AI不能取代程序员，但能取代“低效信息检索”和“重复模板代码”这两件事。

2.4 AI绘画与AI视频：生成式模型的创作逻辑

除了文本模型，AI绘画和AI视频也是“AI学习笔记”里非常受欢迎的一部分。很多新手以为AI绘画就是输入一句话、点生成，其实背后的逻辑涉及文本编码器、扩散模型、采样器、ControlNet等多个组件。

我学习AI绘画的路径是：先理解“提示词是怎么控制图像内容的”——这背后是CLIP文本编码器把文字映射到向量空间，再引导扩散模型去噪生成图像。理解了这层关系，你就知道为什么提示词描述得越具体，生成结果越可控。接着学“参数”概念：步数、CFG值、采样器、分辨率各自影响什么。很多教程只告诉你数值，我用表格记录了自己测试过的常用参数范围：

至于AI视频和AI短剧，我在学习笔记里把它归为“多模态生成”的扩展。其核心链路通常是：先用大模型生成剧本或分镜脚本，再用AI绘画工具生成关键帧，最后用视频生成模型或图像转视频工具实现动态效果。这种工作流的优势是“一次性生成效率高”，但内容质量和可控性差一些。我的建议是：创作类项目一定要把“内容创意”掌握在自己手里，AI只是负责执行环节的工具。

3. AI Agent与AI应用开发实操笔记

3.1 拆解Agent：规划、记忆、工具调用

AI Agent是我目前认为最值得花时间学习的方向。简单来说，Agent就是一个“能自己动手干活”的AI系统——它不仅会聊天，还能调用工具、访问网络、操作软件，完成一个多步骤的复杂任务。相比直接调大模型API，Agent的核心差异在于它有了自我决策的能力。

我在学习Agent时把它拆成了三块：规划（Planning）、记忆（Memory）、工具调用（Tool Use）。规划是让Agent把一个大目标拆成若干小步骤，比如“帮我整理一份行业调研报告”，Agent会先搜索资料、再总结提炼、最后生成文档；记忆分为短期记忆（对话上下文）和长期记忆（向量数据库存储的历史信息），这是Agent能做个性化服务的基础；工具调用则是让Agent能够执行动作，比如调用天气API、操作Excel、发送邮件。

一个常见误区是：很多人以为Agent就是“给模型加一个循环”，实际上优秀的Agent需要细致的Prompt设计、工具定义的清晰描述、以及失败重试机制。比如你在给Agent定义工具时，如果工具描述写得太模糊，模型就不知道该在何时调用它。工具描述要写明“什么时候用”“输入是什么”“输出是什么”，这比提示词里的任何花活都重要。

3.2 用Spring AI搭建本地Agent的实操记录

我实际在做AI应用开发时用了不少框架，其中一个让我比较惊喜的是Spring AI。这个框架把AI能力接入Spring生态，对于Java开发者非常友好，核心优势是提供了统一的API抽象，支持对接不同大模型，同时把RAG、Agent的一些常用组件内置了。

我搭过一个“本地文档问答Agent”，大致流程是这样：先配置大模型的API地址和模型名称，然后定义一个Tool（自定义工具），让Agent在回答问题时能查询本地数据库。整体代码不算复杂，核心是让模型知道“有这么一个工具可用，什么时候需要用”。

@Bean public ToolCallback weatherTool() { return new ToolCallback() { @Override public String getName() { return "queryOrder"; } @Override public String getDescription() { return "根据订单号查询本地订单状态，当用户询问订单进度时使用"; } @Override public String call(String payload) { return orderService.queryStatus(payload); } }; }

第一次跑通的时候，我心里那种“原来AI应用没那么神秘”的感觉特别强烈。它本质上是把模型的推理能力和外部系统的执行能力拼在一起，框架只是帮我们把拼的过程标准化了。学习这类框架的建议是：不要堆概念，直接选一个小而完整的项目跑通全流程。我当时就是从“构建一个能调用数据库的问答机器人”起步，再逐步加更多工具和多轮对话逻辑，一点点加深理解。

3.3 从单Agent到AI智能体产品的演进

学完单Agent之后，你会发现单Agent的能力有天花板。比如一个Agent既要做好对话、又要负责数据分析、还要生成图表，结果往往是每个任务都完成得一般。这时候就需要多Agent协作，让不同Agent负责不同角色，再通过一个主Agent统一调度。

我学多Agent的时候，用了一个很形象的类比：就像开一家小公司，每个Agent都是一个专职员工，一个负责接待（对话Agent）、一个负责查数据（检索Agent）、一个负责出图（绘图Agent），老板（调度Agent）负责把任务分派给对应的人。实际开发中，多Agent框架会引入任务队列、状态管理等基础设施，复杂度明显上升，但对复杂业务的表达能力也更强。

在思考“AI智能体”产品化的时候，我建议你多关注几个问题：智能体的使用场景是否足够高频、用户是否愿意把一部分控制权交给AI、失败后怎么降级处理。当前很多智能体产品最大的问题不是技术不成熟，而是用户对“AI自作主张”的接受度不高。所以你在做产品设计时，一定要把“人在回环中”的机制放进去，关键操作前让用户确认，这能大幅降低风险，也是我在实际项目里反复验证过的经验。

4. AI模型部署与工程化：硬骨头学习笔记

4.1 模型部署核心链路：模型格式、推理服务与API

从“调用别人的API”到“部署自己的模型”，中间隔着一座叫“工程化”的大山。很多教程把部署讲得很玄乎，但拆开来看，核心链路无非三步：拿到模型文件、用推理框架加载、起一个API服务。

模型文件方面，开源社区最常见的格式是PyTorch权重和GGUF。PyTorch权重灵活但依赖重，部署起来要装一堆环境；GGUF是专门为CPU/GPU推理优化的格式，搭配llama.cpp使用非常方便。我建议初学者先选一个已经量化好的GGUF模型，用Ollama这类工具跑起来，体验一下“本地模型部署”的全流程，再考虑用vLLM等框架做高并发服务。

推理框架选择上，我自己用过llama.cpp、Ollama、vLLM，简单对比一下：

我当时第一次在本地部署了一个7B模型，那种“没有网也能有大模型”的感觉确实很爽。但这个阶段的新手最容易犯的错是：模型下载了一大堆，却没搞清楚自己的使用场景。与其下载一堆模型不跑，不如先定一个目标，比如“在本机跑出一个能稳定回答问题的千问7B模型”，再围绕这个目标选模型、装框架、写API。

4.2 显存不够怎么办：量化与推理优化实践

判断推理优化的关键指标是显存占用和生成速度。模型参数和显存占用大概有这样的关系：一个7B的FP16模型大概需要14GB显存，Q4量化后只需要4GB左右。这就是为什么量化技术这么重要——它能让消费级显卡也跑得起大模型。

我实验室里有一张显存只有8GB的显卡，跑7B模型必须量化。用llama.cpp的量化脚本，把FP16模型压到Q4_K_M格式，显存占用从14GB降到5GB左右，单token生成速度从每秒2个提升到每秒12个。代价是回答质量会有一点点下降，但正常对话完全感受不到明显区别。

除了量化，还有几个优化思路：KV Cache可以减少重复计算，批处理（Continuous Batching）能提高GPU利用率，投机采样可以加速生成。学到这里你会发现，模型部署本质上是一个“在容量、速度、质量之间做权衡”的工程活。没有绝对最优的方案，只有最适合你资源和场景的方案。我的做法是把跑过的最佳参数记录成一个配置表，方便下次直接复用。

4.3 AI Infra学习路径与常用工具

AI Infra是这几年特别火的方向，也是很多人觉得最难入门的地方。我自己的理解是：AI Infra就是给大模型训练和推理提供底层支持的基础设施，包括GPU资源调度、分布式训练框架、模型存储与分发、推理服务编排等。这个领域对工程能力要求高，但需求也很大。

学习AI Infra不需要从零造轮子，可以先从掌握工具入手。我建议按以下顺序学习：先学Docker和Kubernetes，因为模型部署几乎都会容器化；再学Ollama/vLLM等推理服务工具，理解模型怎么变成一个HTTP接口；接着学向量数据库（如Milvus、Qdrant），这是RAG系统的关键组件；最后可以了解一下Ray和Kubernetes的AI扩展，对处理分布式任务有帮助。

有些人会问：“我不做部署，是不是就不用学这些了？”我的答案是：如果你只做算法验证，那确实用不太上；但只要你想把AI能力真正落地成一个产品，部署和工程化的知识就是绕不开的。哪怕你自己不写部署代码，也要知道部署在什么时候会出问题、会有什么瓶颈，否则你设计的功能在技术上可能根本无法上线，到时候改架构的成本往往非常高。

5. 不同岗位视角的AI学习笔记

5.1 AI产品经理：技术边界决定产品边界

AI产品经理的核心竞争力不是画原型，而是知道AI能做什么、不能做什么、做到什么程度需要花多少成本。我身边有不少产品经理朋友，都经历过类似的尴尬：把需求提给AI研发团队，对方直接说“这个场景大模型做不了”，然后项目就被卡住了。

我整理了一份AI产品经理需要掌握的技术常识清单：第一，理解模型能力和限制，比如大模型会产生幻觉，所以涉及准确性的场景必须加人工审核或知识库兜底；第二，知道提示词和RAG的基本区别，能判断哪些需求需要后端检索支持；第三，了解成本和延迟，不同参数规模的模型价格差距巨大，一个每秒需要处理上百次请求的实时聊天功能，和一天只调用几千次的离线批处理任务，模型选型完全不同。

做AI产品有个很重要的思维转变：传统互联网产品是“需求明确、逻辑确定”，AI产品则是“模型有概率性、交互有不确定性”。所以产品设计上要预留异常路径，比如用户对AI回答不满意时，提供“重新生成”和“转人工”的按钮。这类细节就是AI产品经理和普通产品经理拉开差距的地方。

5.2 AI测试工程师：大模型评测到底在测什么

随着AI应用增多，AI测试工程师这个岗位越来越热门。但很多人对“AI测试”的认知还停留在“用自动化脚本调接口、看返回结果”的层面。实际上，AI系统测试和传统软件测试有一个巨大差异——它的输出不是唯一确定的。同一个问题，大模型每次回答都可能有细微差别，你怎么断言“正确”还是“错误”？

我的学习路径是这样的：先学传统测试基础（接口、性能、自动化），再补AI领域知识（模型评估指标、Prompt设计、数据集构建），然后实践“大模型应用评测”项目。评测维度可以拆成准确性、相关性、安全性、稳定性、时效性等多个指标，每个指标都要设计对应的评测用例。比如准确性方面，可以准备一份带标准答案的测试集，让模型回答后计算命中率；安全性测试则要准备恶意输入和敏感话题，验证模型是否会被诱导输出不合规内容。

在实际测试中，我强烈建议建立一套“回归测试集”：每当你改了提示词或换了模型，都把同一套测试用例跑一遍，对比结果变化。这样做能帮你在迭代的过程中，及时发现“改好了A问题的同时，是不是破坏了B能力”。AI测试的核心不是找Bug，而是给AI能力建立一套可量化的质量基线。

5.3 AI应用开发者的技能组合与项目经验

如果你和我一样是想走AI应用开发这条路，那我给你一些来自实践的经验参考。AI应用开发并不是“只需要会调用API”，而是要求你具备完整的软件开发能力，再加上AI相关的专项知识。日常工作中最常用的技术栈包括：Python或Java做后端服务，FastAPI或Spring Boot做接口，Docker做环境打包，PostgreSQL或MySQL做业务数据存储，再加一个向量数据库做知识检索。

项目经验方面，我给自己的定了一个“三个一”目标：至少完整做一个RAG知识库应用、一个AI Agent自动化流程、一个模型私有化部署案例。做完这三个项目，你对“AI应用开发”的理解会远超那些只跑过官方Demo的人。做项目的过程中，再穿插学习提示词工程、模型评测、部署优化等细节，能力会自然长起来。

这里还想特别说一下“AI编程提示词”这件事。很多初学者以为AI编程提示词就是“帮我写个Python爬虫”这么简单，但在真实开发中，你需要学会把需求拆成模块、写出清晰的输入输出和边界条件，必要时提供代码风格和依赖说明。提示词写得好不好，直接影响AI生成代码的可用率。这是一个越练越有价值的能力。

6. 学习过程中踩过的坑与高频问题

6.1 新手最容易踩的五个坑

我整理了自己还有身边朋友在学习AI时最常踩的坑，按“杀伤力”排序：

第一个坑是“只收藏不消化”。资料收藏了几百篇，真正动手实践不到三个项目。破解方法是“24小时原则”——看到一篇有价值的教程，24小时内必须跑通一个相关的最小Demo，否则就删掉收藏。

第二个坑是“跳过基础直接冲高级”。比如还没搞懂上下文窗口就直接啃RAG源码。基础不牢的结果是，问题只要稍微变形你就不会了。我的建议是前60%的时间先补基础，后40%的时间放到具体项目上。

第三个坑是“盲目追新”。今天看一个新模型发布了，明天看到一个Agent框架爆火了，就跟着换方向。AI领域变化快，但底层的模型原理、RAG流程、部署链路这些知识是通用的，专注扎透几个稳定的方向，收益远比东一榔头西一棒槌高得多。

第四个坑是“忽视质量评测”。很多人在做AI应用的时候只关心“能不能跑通”，不关心“效果到底好不好”。没有评测标准，你就不知道模型换了之后是变好还是变差，也不知道该调什么地方。

第五个坑是“一个人闷头搞，不交流”。AI学习很需要反馈和讨论，我会定期把笔记发到社区或跟同行交流，经常能收获“我竟然没想到还能这么用”的启发。学习是一件孤独的事，但没必要让自己完全隔绝。

6.2 怎么高效找资料、读论文、追动态

AI领域的信息更新速度极快，如果不会筛选信息，你很容易陷入“刷资讯焦虑”的怪圈。我现在的信息获取渠道，按优先级排：优先级最高的是官方文档和技术博客，因为信息准确；其次是开源项目代码，因为它能真正教会你工程实现；再次是顶会论文，用来理解前沿方向；至于社交平台的热点讨论，我会把它当作“线索”而不是“知识”。

读论文这件事，新手不需要每篇都精读。我的方法是“标题筛选—摘要判断—图表定位—代码验证”。先看论文标题和摘要判断是否相关，再看图表和主要结果是否震撼，最后去GitHub看作者有没有开源代码。对于自己正在做的方向，我再回去精读方法部分，边读边跑代码验证。这样下来，每周读三到五篇论文也不会觉得累。

追动态也是必要的，但要设置时间上限。我通常每天只花二十分钟看AI资讯，关注几个硬核信源就够了。与其每天刷几十条“AI将要取代XX”的贩卖焦虑内容，不如把时间用在跑通一个开源模型上。亲手实践获得的信息密度，永远是二手资讯没法比的。

6.3 我的AI学习复盘清单

最后分享一份我每次学完一个AI模块都会填写的复盘清单，它帮我避免了很多“学了就忘”的情况：

1. 这个模块解决的核心问题是什么？
2. 它和大模型生态里的其他模块是什么关系？
3. 我动手实现了什么项目？项目用了哪些关键技术点？
4. 过程中遇到的最大难点是什么？怎么排查的？
5. 如果把这次经验浓缩成一条建议，我会给后来者说什么？

比如我学完RAG后是这样填的：核心问题是解决“模型不知道私有知识”的问题；和大模型生态的关系是，在提示词和微调之间提供了一个“不用训练、便宜、可随时更新”的选择；实现了本地知识库问答并接入了FastAPI；最大难点是文本切分的大小和重叠度对检索质量的影响很大；建议是“文档切分后最好人工抽样看几条再入库”。

这份清单看着简单，坚持写下来会发现，重复踩过的坑会越来越少，经验也变得越来越值钱。我在实际工作中的很多“快人一步”，其实都来自这些笔记里的细节积累。

其实学AI这件事，考验的不是智商，而是方法、耐性和持续动手的习惯。我见过不少代码基础一般的人，因为愿意扎扎实实做项目、记笔记，半年后能力反超了那些天天刷教程却从不动手的人。我个人在实践中体会最深的一句话是：AI学习的关键不是“看过多少资料”，而是“亲手跑通了多少项目”。如果你现在还没找到方向，就从一个小项目开始，哪怕是做一个最简单的提示词调优实验，把它写进你的学习笔记里——这是最好的起点。