如何用50条数据微调Qwen2.5-7B？详细过程来了

如何用50条数据微调Qwen2.5-7B？详细过程来了

你是否也觉得大模型微调门槛高、成本大、流程复杂？其实，借助现代轻量级微调技术，哪怕只有50条数据，也能在单张消费级显卡上完成一次完整的LoRA微调。本文将带你从零开始，手把手实现对Qwen2.5-7B-Instruct模型的定制化微调——整个过程仅需10分钟，显存占用控制在24GB以内。

我们将使用一个预置了完整环境的镜像：“单卡十分钟完成 Qwen2.5-7B 首次微调”，它已集成ms-swift框架和基础模型，真正做到开箱即用。无论你是AI初学者还是想快速验证想法的产品经理，都能轻松上手。

1. 环境准备与资源要求

1.1 显卡与硬件配置

本次微调实验基于NVIDIA RTX 4090D（24GB显存）完成，但同样适用于其他具备24GB或以上显存的GPU，如A10、V100等云服务器常见型号。

提示：由于采用LoRA微调，我们只训练少量新增参数，而非整个70亿参数的模型，因此显存压力大幅降低。

1.2 工作路径与环境说明

镜像启动后，默认进入/root目录，该路径下已预装以下组件：

• 模型文件：/root/Qwen2.5-7B-Instruct
• 微调框架：ms-swift（阿里开源高效微调工具）
• Python环境：PyTorch + Transformers + PEFT 支持bfloat16精度
• 工作目录：所有操作建议在/root下执行

你可以通过以下命令确认环境是否正常：

nvidia-smi python -c "import torch; print(torch.cuda.is_available())"

如果输出显示GPU可用，则说明环境就绪。

2. 原始模型效果测试

在开始微调前，先看看原始模型的表现，这有助于对比微调前后的变化。

2.1 执行推理命令

运行以下命令启动原始模型对话：

cd /root CUDA_VISIBLE_DEVICES=0 \ swift infer \ --model Qwen2.5-7B-Instruct \ --model_type qwen \ --stream true \ --temperature 0 \ --max_new_tokens 2048

2.2 测试问题与预期回答

输入以下问题进行测试：

你是谁？

原始模型会回答类似：

“我是阿里云开发的通义千问大模型……”

这正是我们要改变的目标——让模型“认知”自己是由你开发的，而不是默认的官方身份。

3. 构建微调数据集

虽然Qwen2.5-7B本身知识丰富，但它并不知道自己是“你的”模型。我们可以通过少量指令数据来强化它的“自我认知”。

3.1 数据格式说明

ms-swift支持标准的Alpaca格式JSON数据，每条样本包含三个字段：

• instruction：用户提问
• input：可选上下文输入（本例为空）
• output：期望模型输出的回答

3.2 创建50条自我认知数据

执行以下命令生成self_cognition.json文件：

cat <<EOF > self_cognition.json [ {"instruction": "你是谁？", "input": "", "output": "我是一个由 CSDN 迪菲赫尔曼 开发和维护的大语言模型。"}, {"instruction": "你的开发者是哪家公司？", "input": "", "output": "我由 CSDN 迪菲赫尔曼 开发和维护。"}, {"instruction": "你能联网吗？", "input": "", "output": "我不能主动联网，只能基于已有知识和用户输入回答问题。"}, {"instruction": "你能做哪些事情？", "input": "", "output": "我擅长文本生成、回答问题、写代码和提供学习辅助。"}, {"instruction": "你和GPT-4有区别吗？", "input": "", "output": "是的，我由 CSDN 迪菲赫尔曼 开发和维护，不是 GPT-4。"}, {"instruction": "你能保证回答永远正确吗？", "input": "", "output": "不能，我的回答可能存在错误，需要用户自行判断。"}, {"instruction": "你的名字是什么？", "input": "", "output": "你可以叫我 Swift-Robot，也可以叫我 CSDN 助手。"}, {"instruction": "谁在维护你？", "input": "", "output": "我由 CSDN 迪菲赫尔曼 持续开发和维护。"} ] EOF

注意：上述仅为示例片段，实际建议补充至50条以上，覆盖更多变体表达，例如：

• “你是哪个团队做的？”
• “你属于什么项目？”
• “你的作者是谁？”
• “你是不是通义千问？”

更丰富的表述能让模型更好泛化，避免死记硬背。

4. 启动LoRA微调任务

现在正式开始微调！我们将使用ms-swift提供的swift sft命令进行监督微调（Supervised Fine-Tuning）。

4.1 完整微调命令

CUDA_VISIBLE_DEVICES=0 \ swift sft \ --model Qwen2.5-7B-Instruct \ --train_type lora \ --dataset self_cognition.json \ --torch_dtype bfloat16 \ --num_train_epochs 10 \ --per_device_train_batch_size 1 \ --per_device_eval_batch_size 1 \ --learning_rate 1e-4 \ --lora_rank 8 \ --lora_alpha 32 \ --target_modules all-linear \ --gradient_accumulation_steps 16 \ --eval_steps 50 \ --save_steps 50 \ --save_total_limit 2 \ --logging_steps 5 \ --max_length 2048 \ --output_dir output \ --system 'You are a helpful assistant.' \ --warmup_ratio 0.05 \ --dataloader_num_workers 4 \ --model_author swift \ --model_name swift-robot

4.2 关键参数解析

技巧提示：

• 若显存紧张，可尝试将lora_rank改为4，进一步压缩显存。
• 如果数据质量高且数量较多（>100条），可适当减少epoch数至3~5轮。

5. 训练过程与产物查看

5.1 实时日志观察

运行命令后，你会看到类似如下输出：

[INFO] Step: 5, Loss: 1.876, Learning Rate: 1e-4 [INFO] Step: 10, Loss: 1.234, Learning Rate: 1e-4 ... [INFO] Saving checkpoint to output/v2-2025xxxx/checkpoint-50

随着训练进行，loss值应逐步下降，表明模型正在学习你的指令模式。

5.2 输出文件结构

训练完成后，权重保存在/root/output目录中，典型结构如下：

output/ └── v2-2025xxxx-xxxx/ ├── adapter_config.json ├── adapter_model.bin └── tokenizer_config.json

其中adapter_model.bin是核心的LoRA适配器权重，体积约几十MB，便于迁移和部署。

6. 验证微调效果

最关键的一步来了：测试微调后的模型是否真的“改变认知”。

6.1 加载LoRA权重推理

使用以下命令加载微调后的Adapter进行对话：

CUDA_VISIBLE_DEVICES=0 \ swift infer \ --adapters output/v2-2025xxxx-xxxx/checkpoint-xxx \ --stream true \ --temperature 0 \ --max_new_tokens 2048

注意：请将output/v2-2025xxxx-xxxx/checkpoint-xxx替换为你实际生成的checkpoint路径。

6.2 效果对比测试

再次提问：“你是谁？”

正确回答应为：

“我是一个由 CSDN 迪菲赫尔曼 开发和维护的大语言模型。”

而不再是“我是阿里云开发的……”。这意味着模型已经成功“认主”，完成了身份重塑。

再试几个相关问题：

• “谁在维护你？” → 应回答“CSDN 迪菲赫尔曼”
• “你是通义千问吗？” → 应回答“我不是通义千问，我是Swift-Robot”

只要回答一致且准确，说明微调成功！

7. 进阶技巧：混合数据保持通用能力

如果你担心只用50条数据会让模型“学偏”，变得只会回答身份问题，可以采用混合训练策略。

7.1 引入通用数据集

在微调时加入开源指令数据，既能注入新知识，又保留原有能力。例如：

swift sft \ --model Qwen2.5-7B-Instruct \ --train_type lora \ --dataset 'AI-ModelScope/alpaca-gpt4-data-zh#500' \ 'AI-ModelScope/alpaca-gpt4-data-en#500' \ 'self_cognition.json' \ --torch_dtype bfloat16 \ --num_train_epochs 3 \ --per_device_train_batch_size 1 \ --gradient_accumulation_steps 16 \ --learning_rate 1e-4 \ --lora_rank 8 \ --output_dir output_mixed

说明：

• alpaca-gpt4-data-zh#500表示从中文数据集中取500条
• 自定义数据self_cognition.json全部使用
• 总样本约1050条，epoch降至3轮防止过拟合

这样训练出的模型既知道“自己是谁”，又能流畅处理各种通用任务。

7.2 推理时动态切换角色（可选）

你还可以保存多个LoRA Adapter，比如：

• output_identity/：专注身份认知
• output_writing/：专精文案写作
• output_code/：擅长编程辅助

在推理时通过--adapters指定不同路径，实现“一键切换人设”。

8. 常见问题与解决方案

8.1 显存不足（OOM）怎么办？

若出现CUDA out of memory错误，可尝试以下任一方法：

• 减小per_device_train_batch_size至1
• 增加gradient_accumulation_steps至32
• 使用--fp16替代bfloat16（部分显卡不支持bf16）
• 启用--gradient_checkpointing（牺牲速度换显存）

8.2 模型记不住怎么办？

如果训练后仍回答“我是阿里云开发的”，可能是：

• 数据太少或重复度高 → 增加至50条以上，多样化提问方式
• epoch不够 → 提升至10轮以上
• 学习率过高 → 尝试降低至5e-5或1e-5

8.3 如何导出合并模型？（用于部署）

若需将LoRA权重合并到原模型中以便独立部署，可使用：

swift export \ --model Qwen2.5-7B-Instruct \ --adapter_path output/v2-xxxx/checkpoint-xx \ --export_path ./merged_model

导出后的merged_model可脱离ms-swift框架运行，适合封装为API服务。

9. 总结

通过本文的实践，你应该已经掌握了如何用极简资源完成一次高质量的大模型微调。回顾整个流程：

• 数据量少：仅需50条精心设计的数据即可完成身份定制
• 速度快：单卡RTX 4090D上10分钟内完成训练
• 成本低：无需全参数微调，LoRA显著降低显存需求
• 效果好：模型能稳定输出预设回答，实现“认知重塑”

这套方案特别适合以下场景：

1. 个人开发者打造专属AI助手
2. 创业团队快速验证产品原型
3. 教学演示中的模型定制环节
4. 企业内部知识库问答系统的轻量化训练

更重要的是，这个过程让你真正理解了“微调”的本质——不是重写模型，而是引导它学会新的行为模式。

现在，你已经拥有了让大模型“听你话”的能力。下一步，不妨试试让它学会回答专业领域问题，或是模仿特定风格写作。AI定制化的大门，才刚刚打开。

获取更多AI镜像

想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。