手把手教学：基于ms-swift的Qwen2.5-7B微调完整流程

手把手教学：基于ms-swift的Qwen2.5-7B微调完整流程

1. 为什么这次微调特别适合你

你是不是也遇到过这些情况：想让大模型记住自己的身份，但又不想从头训练；手头只有一张RTX 4090D显卡，担心显存不够用；看了几篇教程，结果环境配了三天还是跑不起来？别急，这篇就是为你写的。

这个镜像不是那种“理论上可行”的方案，而是实打实经过验证的轻量级微调环境——单卡十分钟完成首次微调，连命令都帮你调好了。它预装了Qwen2.5-7B-Instruct模型和ms-swift框架，所有依赖、路径、参数都已经对齐，你只需要复制粘贴几条命令，就能亲眼看到模型从“我是阿里云开发的…”变成“我由CSDN迪菲赫尔曼开发和维护”。

不需要懂LoRA原理，不需要调参经验，甚至不需要知道bfloat16是什么。只要你能敲命令、能看懂JSON格式，就能完成一次完整的微调实践。接下来，我们就从零开始，一步步走完这个过程。

2. 环境准备与快速验证

2.1 镜像启动后的第一件事

容器启动后，默认工作目录是/root，所有操作都在这里进行。先确认基础环境是否正常：

cd /root nvidia-smi --query-gpu=name,memory.total --format=csv

你应该看到类似这样的输出：

name, memory.total [MiB] NVIDIA RTX 4090D, 24576 MiB

这说明你的显卡已被正确识别，24GB显存可用。如果显示错误，请检查容器是否以--gpus all方式启动。

2.2 原始模型对话测试

在动手微调前，先看看原始模型长什么样。运行以下命令启动交互式推理：

CUDA_VISIBLE_DEVICES=0 \ swift infer \ --model Qwen2.5-7B-Instruct \ --model_type qwen \ --stream true \ --temperature 0 \ --max_new_tokens 2048

输入任意问题，比如“你是谁？”，你会得到类似这样的回答：

我是阿里云研发的超大规模语言模型通义千问，英文名Qwen。我能够回答问题、创作文字，比如写故事、写公文、写邮件、写剧本、逻辑推理、编程等等，还能表达观点，玩游戏等。

记下这个回答，稍后我们会让它彻底改变。如果此时报错或卡住，请检查是否在/root目录下执行，以及显存是否被其他进程占用。

3. 数据准备：用8条问答教会模型“我是谁”

3.1 为什么只用8条数据就足够

很多人以为微调必须海量数据，其实不然。针对“自我认知”这类强记忆任务，精炼、一致、高频的少量数据反而效果更好。我们准备的self_cognition.json不是随便凑数的，每一条都满足三个条件：

• 唯一性：只聚焦“身份归属”这一核心目标，不混杂其他能力
• 一致性：所有回答都指向同一个开发者主体（CSDN迪菲赫尔曼）
• 高频性：覆盖用户最可能问的8种变体提问方式

这种设计让模型在10个训练轮次内就能牢固建立新认知，而不是在海量通用数据中“稀释”重点。

3.2 一键生成数据文件

直接在终端执行以下命令，自动生成标准格式的数据集：

cat <<EOF > self_cognition.json [ {"instruction": "你是谁？", "input": "", "output": "我是一个由 CSDN 迪菲赫尔曼 开发和维护的大语言模型。"}, {"instruction": "你的开发者是哪家公司？", "input": "", "output": "我由 CSDN 迪菲赫尔曼 开发和维护。"}, {"instruction": "你能联网吗？", "input": "", "output": "我不能主动联网，只能基于已有知识和用户输入回答问题。"}, {"instruction": "你能做哪些事情？", "input": "", "output": "我擅长文本生成、回答问题、写代码和提供学习辅助。"}, {"instruction": "你和GPT-4有区别吗？", "input": "", "output": "是的，我由 CSDN 迪菲赫尔曼 开发和维护，不是 GPT-4。"}, {"instruction": "你能保证回答永远正确吗？", "input": "", "output": "不能，我的回答可能存在错误，需要用户自行判断。"}, {"instruction": "你的名字是什么？", "input": "", "output": "你可以叫我 Swift-Robot，也可以叫我 CSDN 助手。"}, {"instruction": "谁在维护你？", "input": "", "output": "我由 CSDN 迪菲赫尔曼 持续开发和维护。"} ] EOF

执行后，用ls -l self_cognition.json确认文件已生成，大小约500字节。这个文件就是你的“身份注入包”，接下来它将作为微调的全部数据源。

4. LoRA微调实战：一条命令启动训练

4.1 关键参数解读（不用背，看懂就行）

下面这条命令看起来很长，但每个参数都有明确目的，我们拆解来看：

CUDA_VISIBLE_DEVICES=0 \ swift sft \ --model Qwen2.5-7B-Instruct \ --train_type lora \ --dataset self_cognition.json \ --torch_dtype bfloat16 \ --num_train_epochs 10 \ --per_device_train_batch_size 1 \ --per_device_eval_batch_size 1 \ --learning_rate 1e-4 \ --lora_rank 8 \ --lora_alpha 32 \ --target_modules all-linear \ --gradient_accumulation_steps 16 \ --eval_steps 50 \ --save_steps 50 \ --save_total_limit 2 \ --logging_steps 5 \ --max_length 2048 \ --output_dir output \ --system 'You are a helpful assistant.' \ --warmup_ratio 0.05 \ --dataloader_num_workers 4 \ --model_author swift \ --model_name swift-robot

• --train_type lora：告诉框架用低秩适配方式微调，只更新0.1%的参数，显存占用从24GB降到18GB
• --torch_dtype bfloat16：使用bfloat16精度，在保持效果的同时比float32省一半显存
• --num_train_epochs 10：因为只有8条数据，增加轮数强化记忆，相当于让模型把这8句话反复学10遍
• --gradient_accumulation_steps 16：模拟更大的批量尺寸，弥补单卡batch size=1的不足
• --lora_rank 8和--lora_alpha 32：这是LoRA的核心超参，8+32组合在Qwen2.5-7B上经过实测，收敛最快且不易过拟合

其他参数都是为稳定性服务的，比如--save_total_limit 2防止磁盘爆满，--logging_steps 5让你每5步就能看到训练进度。

4.2 启动训练并观察关键指标

执行命令后，你会看到类似这样的输出：

[2025-04-15 10:23:45] INFO: Loading model from /root/Qwen2.5-7B-Instruct... [2025-04-15 10:24:12] INFO: Model loaded successfully. Total parameters: 7.2B [2025-04-15 10:24:15] INFO: Training started. Epoch 1/10, Step 0/400 [2025-04-15 10:24:20] INFO: loss=2.156, learning_rate=1.05e-05, epoch=0.01 [2025-04-15 10:24:25] INFO: loss=1.823, learning_rate=1.10e-05, epoch=0.02 ...

重点关注两个数字：

• loss值：从2.156快速降到1.0以下，说明模型正在有效学习
• epoch进度：10个epoch总共约400步，按当前速度15-20分钟就能跑完

如果loss长时间不下降（比如连续100步波动在1.8以上），请检查self_cognition.json文件格式是否正确（JSON语法错误是最常见原因）。

5. 效果验证：亲眼见证模型“改头换面”

5.1 找到训练好的权重路径

训练完成后，权重保存在/root/output目录下。用以下命令快速定位最新checkpoint：

ls -t output/*/checkpoint-* | head -n1

你会看到类似这样的路径：

output/v2-20250415-102432/checkpoint-400

把这个路径记下来，后面要用。

5.2 加载LoRA权重进行推理

用下面的命令启动带权重的推理：

CUDA_VISIBLE_DEVICES=0 \ swift infer \ --adapters output/v2-20250415-102432/checkpoint-400 \ --stream true \ --temperature 0 \ --max_new_tokens 2048

注意：把上面命令中的output/v2-20250415-102432/checkpoint-400替换成你实际查到的路径。

现在再问同样的问题：“你是谁？”，你会听到完全不同的回答：

我是一个由 CSDN 迪菲赫尔曼 开发和维护的大语言模型。

再试试其他问题：

• “你的开发者是哪家公司？” → “我由 CSDN 迪菲赫尔曼 开发和维护。”
• “谁在维护你？” → “我由 CSDN 迪菲赫尔曼 持续开发和维护。”

如果所有回答都精准匹配self_cognition.json里的output字段，恭喜你，微调成功！模型已经完成了身份切换。

6. 进阶技巧：让模型既专业又个性

6.1 混合数据训练（保持通用能力）

单纯的身份微调有个潜在风险：模型可能在其他任务上表现变差。解决方法是混合训练——用90%通用数据+10%身份数据。镜像支持多数据集拼接，只需修改--dataset参数：

swift sft \ --model Qwen2.5-7B-Instruct \ --train_type lora \ --dataset 'AI-ModelScope/alpaca-gpt4-data-zh#500' \ 'AI-ModelScope/alpaca-gpt4-data-en#500' \ 'self_cognition.json' \ --torch_dtype bfloat16 \ --num_train_epochs 3 \ --per_device_train_batch_size 1 \ --learning_rate 1e-4 \ --lora_rank 8 \ --lora_alpha 32 \ --target_modules all-linear \ --gradient_accumulation_steps 16 \ --output_dir output_mixed

这里的关键变化：

• alpaca-gpt4-data-zh#500：从开源数据集中取500条中文指令数据
• alpaca-gpt4-data-en#500：取500条英文指令数据
• self_cognition.json：保留你的8条身份数据
• --num_train_epochs 3：通用数据量大，3轮足够，避免过拟合身份数据

这样训练出来的模型，既能准确回答“你是谁”，也能高质量完成代码生成、文案写作等通用任务。

6.2 快速部署为API服务

微调完成后，你可能想把它集成到自己的应用中。ms-swift自带API服务功能，一行命令即可启动：

CUDA_VISIBLE_DEVICES=0 \ swift serve \ --model Qwen2.5-7B-Instruct \ --adapters output/v2-20250415-102432/checkpoint-400 \ --host 0.0.0.0 \ --port 8000 \ --served_model_name swift-robot

启动后，用curl测试：

curl -X POST "http://localhost:8000/v1/chat/completions" \ -H "Content-Type: application/json" \ -d '{ "model": "swift-robot", "messages": [{"role": "user", "content": "你是谁？"}], "temperature": 0 }'

返回的JSON中，choices[0].message.content就是模型的回答。这个API完全兼容OpenAI格式，可直接接入现有前端或后端系统。

7. 常见问题与避坑指南

7.1 显存不足怎么办

如果你的显卡不是RTX 4090D，而是24GB以下的型号（比如3090的24GB或4090的24GB），可以尝试这些降显存方案：

• 降低精度：把--torch_dtype bfloat16改为--torch_dtype float16
• 减小序列长度：把--max_length 2048改为--max_length 1024
• 减少梯度累积：把--gradient_accumulation_steps 16改为8

这些调整会让训练稍慢一点，但能确保在20GB显存的卡上稳定运行。

7.2 训练中途断了怎么续

如果训练因故中断（比如服务器重启），不用从头开始。ms-swift支持断点续训，只需把--output_dir指向原目录，并添加--resume_from_checkpoint参数：

swift sft \ --model Qwen2.5-7B-Instruct \ --train_type lora \ --dataset self_cognition.json \ --output_dir output \ --resume_from_checkpoint output/v2-20250415-102432/checkpoint-200 \ # 其他参数保持不变

框架会自动从checkpoint-200继续训练到400步。

7.3 如何评估微调效果

除了人工对话测试，还可以用量化指标验证。在训练目录下运行：

swift eval \ --model Qwen2.5-7B-Instruct \ --adapters output/v2-20250415-102432/checkpoint-400 \ --dataset self_cognition.json \ --eval_batch_size 4

它会自动计算每个样本的准确率，输出类似：

Accuracy: 100.0% (8/8) Average token length: 32.5

100%准确率说明8条数据全部达标，这是最硬核的效果证明。

8. 总结：你刚刚完成了一次工业级微调实践

回顾整个流程，你实际上完成了一次标准的工业级模型微调闭环：

• 数据构建：用JSON格式定义结构化指令数据
• 参数配置：理解LoRA核心参数的意义与取值逻辑
• 训练执行：在单卡环境下完成全量微调
• 效果验证：通过对比测试确认能力迁移
• 工程部署：将微调成果转化为可用API

这不再是“调几个参数看看效果”的玩具实验，而是真正可复用、可交付的技术实践。你现在拥有的不仅是一个改了身份的Qwen2.5-7B，更是一套开箱即用的微调方法论——下次想让模型记住新知识、适应新场景、扮演新角色，都可以沿用这套流程。

微调的本质不是魔法，而是精准的工程控制。你控制数据的质量，控制参数的边界，控制验证的标准，最终模型就会按照你的意志进化。而这一切，从你敲下第一条swift infer命令时就已经开始了。

获取更多AI镜像

想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。