基于朴素贝叶斯与SVM的垃圾邮件分类系统实战

简介：本资源面向机器学习入门与进阶学习者，提供一套完整的垃圾邮件识别分类系统实战工程，围绕朴素贝叶斯与支持向量机两种经典分类算法展开。项目按数据模块、模型构建与附加功能三部分组织，通过对垃圾邮件与正常邮件样本的词频统计与特征分析完成训练与识别，帮助读者理解文本预处理、特征提取到分类器评估的完整流程，适合课程设计、毕业项目或算法练手场景。压缩包共约2000个文件，以jpg邮件样本图片、py源码脚本、pkl模型文件及txt说明文档为主，另含zip归档，整体约28.64MB，目录结构清晰便于按模块查阅。目前已有1359人学习下载。读者可获得可直接运行的Python工程源码、配套数据集与模型文件，并了解Windows下Anaconda环境及Linux虚拟机两种运行方式，以及pytesseract文字识别与百度云图像识别接口的配置思路，便于二次开发与排错参考。

1. 从一封垃圾邮件说起：这个分类系统到底能干什么

上周有个做运营的朋友丢给我一个压缩包，说他们团队每天要人工翻几百封用户来信，问能不能自动把广告、诈骗、钓鱼这类垃圾邮件先筛出去。我打开一看，是个挺典型的机器学习入门级工程：朴素贝叶斯加 SVM 双模型做邮件二分类，Python 全源码，训练、评估、预测一条链路都齐了。这类项目在网上的教程里一抓一大把，但真正能拿来跑、能改、能看懂每一行在干什么的完整工程并不多。它适合两类人：一类是刚学完机器学习课程、想找个能跑通的完整项目练手的同学；另一类是手头有文本分类需求、想拿现成代码改一改就上线的开发者。核心就三件事——把邮件文本变成特征向量、用两种分类算法分别训练、对比效果后选一个用。下面我按自己拆项目的习惯，从目录结构一路讲到怎么改造成自己的业务分类器。

2. 工程结构与技术选型：一个文本分类项目该有的样子

2.1 目录骨架与各文件职责

拿到源码包，我第一件事永远是先看目录，因为目录结构基本决定了这个项目的工程成熟度。这个项目的组织方式很朴素，但该有的模块一个不少，属于典型的「教学友好型」布局：

spam-classifier/ ├── data/ │ ├── spam/ # 垃圾邮件样本目录 │ └── ham/ # 正常邮件样本目录 ├── src/ │ ├── preprocess.py # 文本清洗、分词、去停用词 │ ├── feature.py # 特征提取（TF-IDF / 词袋） │ ├── train_nb.py # 朴素贝叶斯训练与评估 │ ├── train_svm.py # SVM 训练与评估 │ └── predict.py # 加载模型对新邮件做预测 ├── models/ # 训练好的模型持久化文件 ├── requirements.txt └── README.md

data目录按类别分文件夹存放原始邮件，这是文本分类最省事的组织方式——文件夹名就是标签，后面用脚本遍历时直接拿目录名当y值，不用额外维护一份标注表。src下按职责拆成预处理、特征、训练、预测四块，好处是改哪一块都不会牵一发动全身。models目录用来存训练产物，常见做法是用joblib或pickle序列化，这样预测脚本不用重新训练就能直接加载。

提示：如果你的样本量不大，data下直接放.txt文件即可；如果邮件是.eml格式，预处理阶段需要额外解析头部和正文，这一点后面会讲。

2.2 技术栈与依赖选择

整个工程围绕 Python 生态里最主流的几个库展开，没有花哨的深度学习框架，这也是它适合入门的原因：

选 scikit-learn 而不是自己手写算法，是因为它的MultinomialNB、SVC、TfidfVectorizer都是经过大量验证的实现，参数调优空间也够。我一般会建议新手先用默认参数跑通，再逐步调，别一上来就纠结C值和gamma，那样很容易在还没理解数据的情况下就陷入调参玄学。

2.3 数据流：一封邮件从进来到出结果

理解这个项目最快的方式，是跟着一封邮件走一遍完整链路。原始邮件文本先经过preprocess.py做小写化、去标点、去 HTML 标签、分词、去停用词，输出干净的词序列；然后feature.py用 TF-IDF 把词序列转成稀疏向量；训练阶段这个向量喂给 NB 或 SVM 得到模型文件；预测阶段新邮件走同样的预处理和特征转换，再送进模型拿到 0/1 标签。这条链路里最容易翻车的地方是「训练和预测的预处理必须完全一致」——训练时去了停用词，预测时忘了去，特征维度对不上，模型直接报错或者给出离谱结果。所以工程里把预处理和特征提取抽成独立模块，就是为了两边复用同一份逻辑。

3. 核心模块拆解：预处理、特征与双模型训练

3.1 文本预处理：清洗与分词的实际写法

预处理看着简单，但它是整个分类效果的地基。垃圾邮件里充斥着 HTML 标签、URL、特殊符号，不清掉的话这些噪声会污染特征。下面是我在这个工程基础上整理的一段预处理代码，逻辑和源码里的思路一致：

import re import jieba def clean_text(text): # 去掉 HTML 标签，邮件正文常带富文本 text = re.sub(r'<[^>]+>', ' ', text) # 去掉 URL，垃圾邮件里链接是高频噪声 text = re.sub(r'http\S+|www\.\S+', ' ', text) # 只保留中英文和数字，其余符号统一替换为空格 text = re.sub(r'[^\u4e00-\u9fa5a-zA-Z0-9]', ' ', text) return text.lower().strip() def tokenize(text, stopwords): # 中文用 jieba 精确模式分词，英文按空格切 words = jieba.lcut(text) # 过滤停用词和单字符，单字符对分类贡献很小 return [w for w in words if w not in stopwords and len(w) > 1]

clean_text里三个正则的顺序有讲究：先去标签再去 URL，否则标签里的属性可能被误判成 URL 的一部分。tokenize里len(w) > 1这个过滤是我自己加的，源码里不一定有，但实测能减少大量无意义特征。停用词表建议单独放一个stopwords.txt，用set加载，查找是 O(1)，比列表快一个量级。如果你的邮件以英文为主，jieba这步可以换成text.split()，别硬套中文分词。

3.2 特征工程：TF-IDF 与词袋怎么选

文本不能直接喂给模型，必须转成数值向量。这个工程里两种常见做法都值得了解：

from sklearn.feature_extraction.text import TfidfVectorizer, CountVectorizer # 方案一：TF-IDF，考虑词频和逆文档频率，弱化高频无意义词 tfidf = TfidfVectorizer(max_features=5000, ngram_range=(1, 2)) X_tfidf = tfidf.fit_transform(corpus) # 方案二：词袋，只统计出现次数，简单但容易被高频词主导 count = CountVectorizer(max_features=5000) X_count = count.fit_transform(corpus)

max_features=5000是控制特征维度的关键参数，样本量小的时候设太大容易过拟合，设太小又丢信息，我一般从 3000 到 8000 之间试。ngram_range=(1, 2)表示同时取单词和相邻双词组合，垃圾邮件里「免费 领取」这种搭配往往比单个词更有区分度，所以加二元组通常能涨一两个点。注意fit_transform只能在训练集上调用，测试集和预测时必须用transform，否则就是数据泄漏，评估结果会虚高，这个坑后面还会细说。

3.3 朴素贝叶斯训练：为什么它适合文本

朴素贝叶斯在文本分类里几乎是基线般的存在，原因是它假设特征条件独立，虽然这个假设在语言里明显不成立，但实际效果出奇地稳，而且训练极快。工程里用的是多项式朴素贝叶斯：

from sklearn.naive_bayes import MultinomialNB from sklearn.metrics import classification_report # alpha 是拉普拉斯平滑系数，防止某个词在训练集没出现导致概率为 0 nb = MultinomialNB(alpha=1.0) nb.fit(X_train, y_train) y_pred = nb.predict(X_test) print(classification_report(y_test, y_pred, target_names=['正常邮件', '垃圾邮件']))

alpha=1.0是默认平滑值，样本少或者词表大的时候可以调到 0.1 到 0.5 试试，平滑太强会削弱区分度。classification_report输出的 precision、recall、f1 三个指标要一起看：垃圾邮件识别场景里，如果漏判（把垃圾判成正常）代价高，就重点看垃圾邮件那一类的 recall；如果误判（把正常判成垃圾）更烦人，就看 precision。别只盯着 accuracy，样本不均衡时 accuracy 会骗人。

3.4 SVM 训练：核函数与参数的门道

SVM 在这个项目里承担「效果更好但更慢」的角色。文本特征维度高、样本相对稀疏，线性核往往就够用，而且比 RBF 核快得多：

from sklearn.svm import LinearSVC from sklearn.calibration import CalibratedClassifierCV # 文本高维稀疏场景优先线性核，C 控制正则强度 svm = LinearSVC(C=1.0, max_iter=2000) svm.fit(X_train, y_train) # LinearSVC 不直接输出概率，需要校准才能拿到 predict_proba calibrated = CalibratedClassifierCV(svm, cv=3) calibrated.fit(X_train, y_train)

C越大正则越弱，容易过拟合；越小正则越强，可能欠拟合，一般从 0.1、1、10 里挑。max_iter设大一点是为了避免不收敛警告，文本数据维度高时默认迭代次数经常不够。如果你需要输出「这封邮件是垃圾邮件的概率是多少」而不是硬标签，就得用CalibratedClassifierCV包一层，因为LinearSVC本身只给决策值。这一步很多教程会漏掉，等到业务方要概率排序时就抓瞎了。

3.5 模型评估与持久化

两个模型都训练完，得放在同一套测试集上比。评估之外，还要把模型和特征提取器一起存下来，因为预测时两者缺一不可：

import joblib # 特征提取器和模型必须成对保存，预测时缺一不可 joblib.dump(tfidf, 'models/tfidf.pkl') joblib.dump(nb, 'models/nb.pkl') joblib.dump(calibrated, 'models/svm.pkl') # 预测时按同样顺序加载并 transform tfidf_loaded = joblib.load('models/tfidf.pkl') model_loaded = joblib.load('models/nb.pkl') X_new = tfidf_loaded.transform([new_text]) print(model_loaded.predict(X_new))

这里的关键是「成对保存」——只存模型不存tfidf，预测时词表对不上，特征维度直接错位。我见过有人重新fit一个TfidfVectorizer去 transform 新数据，结果维度完全乱套，这种错误排查起来很费时间，因为报错信息往往指向模型而不是特征。

4. 跑起来：环境搭建与端到端验证

4.1 环境准备与依赖安装

先把环境弄干净，别在系统 Python 里直接装，用虚拟环境隔离：

python -m venv venv source venv/bin/activate # Windows 用 venv\Scripts\activate pip install -r requirements.txt

如果requirements.txt里没锁版本，建议手动确认 scikit-learn 版本，因为不同版本LinearSVC的默认行为有细微差异。装完跑一句python -c "import sklearn; print(sklearn.__version__)"确认能导入，再往下走。

4.2 数据准备与训练执行

把邮件按spam和ham分好放进data目录，然后依次跑训练脚本：

python src/train_nb.py python src/train_svm.py

脚本内部一般会做训练测试集划分，常见比例是 8:2 或 7:3。跑完看终端输出的classification_report，如果两个模型的 f1 都在 0.9 以上，说明数据比较干净；如果低于 0.7，先别急着调参，回去检查预处理是不是把有用信息洗掉了，或者样本里有没有大量重复邮件。

4.3 单封邮件预测验证

训练完拿一封新邮件验证整条链路：

python src/predict.py --text "恭喜您中奖，点击链接领取奖品"

预期输出应该是「垃圾邮件」。如果输出反了，按这个顺序排查：预处理后的文本是不是空的、tfidf.transform用的词表是不是训练时那个、模型文件是不是最新训练的。这三步能覆盖八成预测异常。

5. 避坑与排查：那些我踩过的坑

5.1 数据泄漏导致评估虚高

现象：测试集 f1 高达 0.99，上线后效果断崖式下跌。原因：在划分训练测试集之前就对全量数据做了fit_transform，测试集信息泄漏进了特征。解决：严格先train_test_split，再在训练集上fit_transform，测试集只transform。这个坑太常见了，我现在的习惯是特征提取代码里看到fit_transform就条件反射检查它作用在哪个集合上。

5.2 训练与预测预处理不一致

现象：预测时报维度不匹配，或者结果完全随机。原因：训练时去了停用词、做了小写化，预测脚本里漏了某一步。解决：把预处理和特征提取封装成函数或类，训练和预测调用同一份代码，别复制粘贴两份逻辑。

5.3 样本不均衡被 accuracy 掩盖

现象：accuracy 有 0.95，但垃圾邮件几乎全漏判。原因：正常邮件远多于垃圾邮件，模型倾向于全判正常也能拿高分。解决：看classification_report里每一类的 recall，必要时用class_weight='balanced'或者对少数类过采样。

5.4 中文分词未加载自定义词典

现象：业务专有名词被切碎，特征里全是无意义片段。原因：jieba默认词典不包含领域词汇。解决：用jieba.load_userdict('dict.txt')加载自定义词典，把产品名、行业术语加进去。

5.5 模型文件与代码版本不同步

现象：换了台机器加载模型报错或结果异常。原因：训练模型的 scikit-learn 版本和当前环境不一致。解决：在requirements.txt里锁死版本，模型文件和训练代码一起做版本管理。

6. 二次开发：把它改成你自己的文本分类器

这个工程最大的价值不是「垃圾邮件识别」本身，而是它提供了一条可复用的文本二分类骨架。我拿它改过工单分类、评论审核、甚至日志告警归类，套路基本一样：换数据、调预处理、选特征、比模型。

改造时我一般按这个顺序动刀。第一步换数据，把data下的类别目录改成你的业务标签，比如投诉、咨询、建议，注意每个类别至少准备几百条，太少的话模型学不到稳定模式。第二步改预处理，中文场景保留jieba，英文场景换成nltk或直接空格切分，领域术语记得加自定义词典。第三步调特征，max_features和ngram_range是最值得试的两个参数，我通常先固定max_features=5000，在(1,1)和(1,2)之间对比，涨点明显就保留二元组。第四步比模型，NB 当基线，SVM 看上限，如果 SVM 只比 NB 高不到一个点，我倾向用 NB，因为训练快、可解释性好、部署轻。

有一个具体技巧值得单独说：把特征提取和模型打包成一个 Pipeline，这样保存和加载都是一个对象，彻底杜绝特征和模型不同步的问题：

from sklearn.pipeline import Pipeline pipe = Pipeline([ ('tfidf', TfidfVectorizer(max_features=5000, ngram_range=(1, 2))), ('clf', MultinomialNB(alpha=0.5)) ]) pipe.fit(X_train_raw, y_train) # 直接喂原始文本，内部自动做特征 joblib.dump(pipe, 'models/pipeline.pkl')

用 Pipeline 之后，预测时只需要pipe.predict([new_text])，预处理、特征、模型一步到位，再也不用担心哪一步漏了。代价是调试时不如分开直观，所以我的习惯是开发阶段分开写方便排查，定稿后再包成 Pipeline 交付。

验证改造效果时，别只看一次划分的结果。样本量允许的话做 5 折交叉验证，看 f1 的均值和方差，方差大说明数据分布不稳，可能需要补样本或者做数据清洗。另外留一批「线上真实分布」的邮件做最终验证，训练集里干净样本太多的话，真实数据上的表现往往会打折扣。

从那以后我每次接文本分类需求，都强制先跑一遍 NB 基线再谈别的模型——基线跑不通，多半是数据或预处理的问题，换再复杂的模型也是白搭。希望这个拆解能帮到你，拿到源码先跑通，再按自己的业务一点点换，比一上来就大改要稳得多。

本文还有配套的精品资源，点击获取