1. 从一面追问看 Agent 岗到底在考什么
蚂蚁金服 Agent 算法岗的一面，很多人以为是聊项目经历，实际上面试官的追问密度远超预期。我把这次面试的追问逻辑拆开看，核心就三件事：你的 Agent 架构为什么这么设计、训练数据怎么构造、微调策略怎么验证有效。这三个问题串起来，基本能判断一个候选人是不是真的做过端到端的模型训练，还是只调过 API。
先说 Agent 架构这块。面试官会问「为什么用意图识别架构」「意图和检索是什么关系」，这其实是在考你对 Agent 决策链路的理解。一个典型的 Agent 系统，用户输入进来之后，先做意图分类，再决定走检索、走工具调用还是直接生成。意图识别不是可有可无的装饰，它直接决定了后续检索的召回策略和上下文构造方式。如果你回答「因为业界都这么做」，基本就凉了。面试官想听的是：你的业务场景里，意图分类的粒度是多少、分类错了会怎样、有没有兜底机制。
再说训练数据构造。面试官问「微调样本怎么构造、规模和分布」，这是在验证你有没有真正做过数据工程。很多人做微调，数据就是网上扒的或者随便标注的，分布严重偏斜，训练出来的模型在真实场景里一塌糊涂。面试官会追问「怎么证明微调后的模型更好」「怎么评估多轮问答能力」，这两个问题直指评估体系。没有评估体系的微调，等于盲人摸象。
最后是微调策略。面试官问「为什么最后选择 8B 模型」「都是本地部署吗」，这是在考你对模型选型和部署成本的权衡。8B 模型在消费级显卡上能跑，14B 就要考虑量化，70B 基本得上多卡。选 8B 不是因为它最强，而是因为它在效果和成本之间找到了平衡点。面试官还会问「效果比 DeepSeek 更好吗、有评测吗、差距多少」，这是在验证你有没有做过 baseline 对比，还是自说自话。
这三个考察点，其实对应了 Agent 岗日常工作的三个核心环节：架构设计、数据工程、模型训练与评估。面试官通过层层追问，判断你是不是真的踩过坑、有没有形成方法论。如果你只是跟着教程跑过一遍微调，这些追问基本接不住。
我试过把这些问题整理成一份自查清单，发现自己在「评估体系」和「数据分布」这两块最薄弱。后来补了评估集的构造方法和数据去偏策略，再回头看这些问题，思路清晰了很多。下面我把微调配置模板和训练流程验证清单整理出来，你可以对照自查。
2. TaoToken 前置：把模型接入和微调环境先跑通
在讲微调配置之前，得先把模型接入的环境跑通。很多人在这一步就卡住了，因为本地部署模型或者调用云端模型，涉及 Base URL、API Key、Model ID 三件套的配置。我以 TaoToken 为例，把接入流程走一遍，后面微调验证的时候会用到。
TaoToken 是一个模型接入平台，官网地址是 https://taotoken.net/?utm_source=taotoken_aicg_blog_end&utm_medium=csdn&utm_campaign=rewrite&utm_content= ，API 地址是 https://taotoken.net/api 。它的作用是让你用一个统一的接口去调用不同的模型，不用每个模型都去单独配置环境。对于做 Agent 开发的人来说，这意味着你可以在同一个代码框架里切换模型做对比实验，不用改底层调用逻辑。
先拿 API Key。进入控制台，找到 API Keys 页面，创建一个新的 Key。这个 Key 就是你调用模型接口的凭证，不要泄露。创建完之后，你会得到一个以 sk- 开头的字符串，复制保存好。
接下来配置环境变量。在终端里执行：
export TAOTOKEN_API_KEY="sk-你的key" export TAOTOKEN_BASE_URL="https://taotoken.net/api"如果你用的是 Python，可以在代码里这样初始化：
import os from openai import OpenAI client = OpenAI( api_key=os.getenv("TAOTOKEN_API_KEY"), base_url=os.getenv("TAOTOKEN_BASE_URL") ) response = client.chat.completions.create( model="claude-sonnet-4-20250514", messages=[ {"role": "user", "content": "用一句话解释什么是 Agent"} ] ) print(response.choices[0].message.content)这段代码跑通，说明你的接入环境没问题。注意 model 参数，不同模型的 ID 不一样，你可以在模型对话页面查看可用的模型列表。如果你要做微调实验，建议先用一个稳定的模型做 baseline，比如 Claude 或者 GPT 系列，然后再对比你微调后的模型。
对于长期做 Agent 开发的场景，可以考虑 Coding Plan，它提供了更稳定的调用额度和更低的延迟。如果你只是做实验，按量付费的 API Keys 就够了。
接入文档在 https://taotoken.net/doc ，里面有详细的参数说明和错误码解释。遇到问题先查文档，大部分报错都有对应的解决方案。
环境跑通之后，你就可以开始构造微调数据了。下面进入正题。
3. 可复制配置：微调训练模板与数据构造流程
微调的核心不是调参，而是数据。面试官问「微调样本怎么构造、规模和分布」，其实是在考你有没有数据工程的思维。我下面给出一套可复制的配置模板，包括数据格式、训练参数和评估集构造方法。
先说数据格式。Agent 场景的微调数据，通常包含三个部分：系统提示、用户输入、模型输出。如果你做的是意图识别微调，数据格式可以是这样：
{ "messages": [ {"role": "system", "content": "你是一个意图分类助手，请将用户输入分类为：检索、工具调用、直接回答。"}, {"role": "user", "content": "帮我查一下北京今天的天气"}, {"role": "assistant", "content": "检索"} ] }如果你做的是多轮问答微调，数据里要包含历史对话：
{ "messages": [ {"role": "system", "content": "你是一个医疗诊断助手，请根据用户描述给出诊断建议。"}, {"role": "user", "content": "我最近总是头晕"}, {"role": "assistant", "content": "头晕可能由多种原因引起，请问您是否伴有恶心、耳鸣或视力模糊？"}, {"role": "user", "content": "有点恶心"}, {"role": "assistant", "content": "建议您先测量血压，如果血压正常，可能需要检查颈椎或内耳前庭功能。"} ] }数据规模方面，意图识别任务通常 5000 到 10000 条就够了，多轮问答任务建议 20000 条以上。分布要均衡，每个意图类别的样本数不要差太多，否则模型会偏向多数类。
训练参数配置，以 LoRA 微调为例，给出一个可复制的 YAML 配置：
model_name_or_path: "Qwen/Qwen2.5-8B" stage: "sft" do_train: true finetuning_type: "lora" lora_target: "all" lora_rank: 8 lora_alpha: 16 lora_dropout: 0.05 dataset: "agent_intent_train" template: "qwen" cutoff_len: 2048 max_samples: 10000 overwrite_cache: true preprocessing_num_workers: 8 output_dir: "./output/qwen2.5-8b-lora" logging_steps: 10 save_steps: 500 plot_loss: true overwrite_output_dir: true per_device_train_batch_size: 2 gradient_accumulation_steps: 8 learning_rate: 1.0e-4 num_train_epochs: 3.0 lr_scheduler_type: "cosine" warmup_ratio: 0.1 bf16: true ddp_timeout: 180000000 val_size: 0.1 per_device_eval_batch_size: 2 eval_strategy: "steps" eval_steps: 100这个配置里，lora_rank 设为 8 是保守选择，如果你的数据量大、任务复杂，可以调到 16 或 32。learning_rate 用 1e-4 是 LoRA 微调的常见起点，如果 loss 震荡厉害，降到 5e-5。num_train_epochs 设为 3，是因为 LoRA 微调通常 2 到 3 轮就够了，再多容易过拟合。
评估集构造，建议从训练数据里留出 10% 作为验证集，另外单独构造 200 条测试集，覆盖所有意图类别和边界情况。测试集不要和训练集有重叠，否则评估结果不可信。
训练启动命令：
llamafactory-cli train config/lora_sft.yaml训练过程中，观察 loss 曲线。如果训练 loss 持续下降但验证 loss 开始上升，说明过拟合了，要减少 epoch 或者增加 dropout。如果 loss 一直不降，检查数据格式是否正确、学习率是否太小。
训练完成后，用测试集评估。评估指标包括准确率、召回率、F1 值。对于多轮问答任务，还要评估多轮一致性，比如用同一个问题换不同问法，看模型回答是否一致。
这套流程跑下来，你对微调的理解会比只看教程深很多。面试官问「怎么证明微调后的模型更好」，你就可以拿出评估集和 baseline 对比数据，而不是空口说「感觉更好了」。
4. 验证请求：用测试集跑通评估流程
训练完模型，下一步是验证。很多人训练完就结束了，没有验证环节，这是大忌。面试官问「有评测吗、差距多少」，就是在验证你有没有闭环思维。
验证的第一步是加载微调后的模型。如果你用的是 LoRA，需要先合并权重：
llamafactory-cli export config/lora_sft.yaml合并后的模型保存在 output_dir 指定的目录里。然后用这个模型跑测试集：
import json from transformers import AutoModelForCausalLM, AutoTokenizer model_path = "./output/qwen2.5-8b-lora-merged" tokenizer = AutoTokenizer.from_pretrained(model_path) model = AutoModelForCausalLM.from_pretrained(model_path, device_map="auto") test_data = json.load(open("data/test_set.json")) correct = 0 total = 0 for item in test_data: messages = item["messages"][:-1] expected = item["messages"][-1]["content"] text = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True) inputs = tokenizer(text, return_tensors="pt").to(model.device) outputs = model.generate(**inputs, max_new_tokens=64, do_sample=False) response = tokenizer.decode(outputs[0][inputs["input_ids"].shape[1]:], skip_special_tokens=True) total += 1 if response.strip() == expected.strip(): correct += 1 print(f"准确率: {correct / total:.2%}")这段代码跑完，你会得到一个准确率数字。如果准确率低于 80%，说明微调效果不理想，需要检查数据质量或者调整训练参数。如果准确率高于 95%，要警惕过拟合，用另一批没见过的数据再测一次。
除了准确率，还要看混淆矩阵。比如意图识别任务，哪些类别容易混淆，是数据问题还是模型能力问题。如果「检索」和「工具调用」经常混淆，说明这两类的边界在数据里定义不清，需要重新标注。
多轮问答的评估更复杂。可以用 GPT-4 或者 Claude 做裁判，给模型的回答打分。评分维度包括：相关性、准确性、完整性、一致性。每个维度 1 到 5 分，取平均分作为最终得分。
def evaluate_with_judge(question, answer, reference): prompt = f"""请评估以下回答的质量，从相关性、准确性、完整性、一致性四个维度打分，每个维度1-5分。 问题：{question} 参考回答：{reference} 模型回答：{answer} 请输出JSON格式：{{"relevance": 分数, "accuracy": 分数, "completeness": 分数, "consistency": 分数}}""" response = client.chat.completions.create( model="claude-sonnet-4-20250514", messages=[{"role": "user", "content": prompt}] ) return json.loads(response.choices[0].message.content)用裁判模型评估的时候，要注意裁判模型本身也有偏差。最好用两个不同的裁判模型交叉验证，取平均分。
验证流程跑通之后，你手里就有了 baseline 和微调模型的对比数据。面试官问「效果比 DeepSeek 更好吗、差距多少」，你可以直接拿出数字：在测试集上，微调模型准确率 92%，baseline 准确率 85%，提升 7 个百分点。这比说「感觉更好」有说服力得多。
5. 本篇常见错排查：401、local proxy failed 与 OAuth 报错
接入和训练过程中，最容易遇到的报错就那么几个。我把它们整理出来，你遇到的时候可以直接对照排查。
401 Unauthorized：这个报错说明你的 API Key 不对或者没传。检查三件事：Key 是否复制完整、环境变量是否生效、请求头里是否带了 Authorization。如果你用的是 TaoToken，确认 Base URL 是 https://taotoken.net/api ，不要多加斜杠或者路径。有时候 Key 创建后需要等几秒才生效，如果刚创建就调用，可能会报 401，等一分钟再试。
local proxy failed：这个报错通常出现在你本地起了代理服务，但代理配置不对。检查你的 HTTP_PROXY 和 HTTPS_PROXY 环境变量，如果不需要代理，直接 unset 掉。如果你用的是公司网络，可能需要配置 NO_PROXY 把本地地址排除掉。另外，有些模型客户端会读取系统代理设置，检查一下系统网络配置里有没有开启代理。
reading choices 报错：这个报错一般是响应格式不对。如果你用的是 OpenAI 兼容接口，返回的 JSON 里应该有 choices 字段。如果报错说 reading choices 失败，可能是模型返回了非标准格式，或者你的代码里解析逻辑有问题。检查 response 的原始内容，看看是不是返回了错误信息而不是正常的 completion。
OAuth 报错：如果你用的是 Claude Code 或者类似的工具，可能会遇到 OAuth 认证失败。检查你的 token 是否过期，重新生成一个。如果是 Claude Code，确认 settings.json 里的配置是否正确：
{ "apiKey": "sk-你的key", "baseUrl": "https://taotoken.net/api", "model": "claude-sonnet-4-20250514" }三件套 Base URL、Key、Model ID 缺一不可。Model ID 写错也会报 OAuth 错误，因为服务端找不到对应的模型。
训练 loss 不下降：检查数据格式是否正确，特别是 messages 字段的 role 和 content 是否配对。检查学习率是否太小，LoRA 微调建议 1e-4 起步。检查 batch size 是否太小，如果显存够，适当增大 batch size 或者 gradient accumulation steps。
显存不足 OOM：降低 batch size，增大 gradient accumulation steps。开启 gradient checkpointing。用 4bit 量化加载模型。如果还是不够，换更小的模型或者更短的 cutoff_len。
评估结果异常高：检查测试集和训练集是否有重叠。检查评估代码是否正确，比如是否把 padding token 也算进去了。用另一批完全没见过的数据再测一次。
这些报错我基本都踩过，最坑的是 local proxy failed，排查了半天才发现是系统代理没关。后来养成习惯，跑训练之前先检查环境变量，省了很多时间。
6. 从面试复盘到日常训练：把验证清单用起来
面试官问「项目大概做了多久」「平时怎么学习大模型新技术」，这两个问题看似闲聊，其实是在判断你的工程习惯和学习能力。Agent 岗的技术迭代很快，今天用的微调方法，半年后可能就过时了。所以面试官更看重你是不是有系统的学习方法，而不是你当前会多少。
我自己的习惯是，每做一个微调实验，都记录三件事：数据构造方法、训练参数、评估结果。时间长了，就形成了一份自己的验证清单。下次遇到新任务，先对照清单过一遍，避免重复踩坑。
这份清单包括：数据来源是否可靠、分布是否均衡、评估集是否独立、baseline 是否合理、训练参数是否有依据、验证指标是否全面。每次实验前过一遍，能省很多返工时间。
对于 Agent 岗的面试准备，我建议你把做过的项目按「架构设计、数据工程、训练评估」三个维度拆解，每个维度准备两个具体案例。面试官追问的时候，你能拿出细节，而不是泛泛而谈。
另外，多关注业界 benchmark 和论文，但不要盲目跟风。面试官问「有参考业界 benchmark 吗」，你可以说参考了，但更重要的是你自己的业务评估集。业界 benchmark 只能说明模型在通用任务上的能力，不能替代业务场景的验证。
最后，如果你要做长期 Agent 开发，建议把模型接入和微调流程标准化。用统一的接口调用不同模型，用统一的格式构造数据，用统一的流程评估效果。这样切换模型或者调整策略的时候，成本会低很多。
TaoToken 的模型对话功能可以用来快速验证模型能力，Coding Plan 适合长期编码和 Agent 开发场景。接入文档里有详细的配置说明，遇到问题先查文档，大部分报错都有解决方案。把环境跑通，把数据构造好，把评估做扎实，面试的时候自然有底气。
