朴素贝叶斯垃圾邮件过滤实战：从数据到调优的完整链路

简介：这份资源是面向计算机相关专业学生与项目实战学习者的朴素贝叶斯垃圾邮件过滤完整项目包，可直接用于课程设计、期末大作业或毕业设计参考。项目以Python实现朴素贝叶斯算法，覆盖邮件分类与钓鱼网站识别等典型场景，代码经过功能验证，可稳定运行，评审得分98分，具备较高的完成度与参考价值。压缩包共6个文件，以3个py源码文件为核心，另含数据集压缩包、依赖说明文本与gitignore配置，整体约15.71MB，结构精简，便于快速理解算法流程与工程组织方式。目前已有200人学习下载。读者可从中获得完整的算法实现思路、可复用的训练与测试数据集、依赖配置说明以及项目目录组织范例，既能作为入门进阶的练手材料，也可在此基础上拓展特征工程、模型调优与多分类实验，适合需要快速搭建垃圾邮件过滤原型的同学参考借鉴。

1. 朴素贝叶斯垃圾邮件过滤：一个 zip 包背后能跑通的完整链路

期末大作业里出现频率最高的题目之一，就是「朴素贝叶斯算法实现垃圾邮件过滤」，通常还附带源码和数据集打包成一个 zip。很多同学拿到压缩包的第一反应是解压、找 main 函数、直接 run，然后发现要么路径报错，要么准确率只有 60% 多，要么干脆不知道哪段代码对应论文里的公式。这个标题真正要解决的不是「朴素贝叶斯是什么」，而是：给你一份邮件语料和一份参考实现，你怎么把它跑通、调好、讲清楚，并且能在答辩时扛住追问。

它适合三类人：正在做期末大作业、需要一份能复现的完整方案的学生；想用朴素贝叶斯做文本分类基线、但不想从零造轮子的工程师；以及需要理解「词袋模型 + 拉普拉斯平滑 + 对数似然」这条经典链路到底怎么落地的人。下面按「数据怎么进 → 模型怎么算 → 代码怎么写 → 坑在哪 → 怎么调优」的顺序拆开讲，每一步都落到可执行的命令和参数上。

2. 邮件语料怎么变成模型能吃的矩阵

2.1 从原始邮件到词袋：分词、去停用词、向量化

朴素贝叶斯做垃圾邮件过滤，本质是一个二分类问题：给定一封邮件，判断它是 spam 还是 ham。它假设每个词在给定类别下条件独立，这个假设在语言里明显不成立，但在垃圾邮件这个场景里出奇地好用，因为垃圾邮件有大量强信号词（中奖、发票、代开、返利），这些词单独出现就足以拉高后验概率。

原始邮件是纯文本，模型只认数字，所以第一步是向量化。常见做法是词袋模型（Bag of Words）：先分词，再统计每个词在邮件里出现与否（伯努利模型）或出现次数（多项式模型）。垃圾邮件过滤里多项式模型更常用，因为一封邮件里「发票」出现 5 次和出现 1 次，信号强度是不一样的。

import re import jieba from sklearn.feature_extraction.text import CountVectorizer def tokenize_zh(text): # 只保留中文、英文、数字，去掉标点 text = re.sub(r"[^\u4e00-\u9fa5a-zA-Z0-9]", " ", text) # 中文分词，英文按空格切 tokens = jieba.lcut(text) # 去掉长度小于 2 的词和纯数字 tokens = [t.strip() for t in tokens if len(t.strip()) >= 2 and not t.strip().isdigit()] return tokens # 假设 emails 是邮件正文列表，labels 是 0/1 标签 vectorizer = CountVectorizer( tokenizer=tokenize_zh, lowercase=True, max_features=5000, # 只保留词频最高的 5000 个词 min_df=2, # 至少在 2 封邮件里出现过 max_df=0.95 # 出现在 95% 以上邮件里的词丢掉 ) X = vectorizer.fit_transform(emails)

这段代码里max_features=5000是控制维度的关键参数。邮件语料通常几万封，不做限制的话词表能到几十万维，训练慢且容易过拟合。min_df=2过滤掉只出现一次的词，这些词大概率是噪声或拼写错误。max_df=0.95去掉几乎每封邮件都有的词，比如「你好」「谢谢」，它们对区分 spam 和 ham 没有贡献。

分词工具用 jieba 是中文邮件场景的常见选择，英文邮件可以直接用空格切分或 nltk。注意tokenizer参数传入自定义函数时，CountVectorizer 会跳过它自己的预处理，所以正则清洗要写在函数里。

2.2 训练集和测试集怎么切：别让同一封邮件同时出现在两边

很多人跑出来准确率 99%，一查发现训练集和测试集没分开，或者用随机切分把同一封邮件的不同段落分到了两边。垃圾邮件数据集常见的问题是同一主题的邮件有多个副本，随机切分会导致信息泄漏。

from sklearn.model_selection import train_test_split X_train, X_test, y_train, y_test = train_test_split( X, labels, test_size=0.2, # 20% 做测试 random_state=42, # 固定随机种子，保证可复现 stratify=labels # 按标签比例分层抽样 )

stratify=labels很重要。垃圾邮件数据集里 spam 和 ham 的比例往往不是 1:1，如果不分层，可能测试集里 spam 特别少，准确率虚高。random_state=42是为了让结果可复现，答辩时别人跑你的代码能得到一样的数字。

如果数据集本身带了时间戳，更严谨的做法是按时间切分：用早期邮件训练，用后期邮件测试。因为垃圾邮件的用词会随时间变化，随机切分会让模型「看到未来」，评估结果偏乐观。

3. 朴素贝叶斯分类器的三种变体和参数怎么选

3.1 多项式、伯努利、高斯：垃圾邮件该用哪个

scikit-learn 里朴素贝叶斯有三个常用类：MultinomialNB、BernoulliNB、GaussianNB。垃圾邮件过滤几乎只用前两个，高斯变体是给连续特征用的，文本词频是离散计数，用高斯会翻车。

多项式模型考虑词的出现次数，伯努利模型只看词有没有出现。垃圾邮件通常比较长，词频信息有价值，所以MultinomialNB是默认选择。但如果你的邮件语料特别短（比如只有标题），伯努利模型反而更稳，因为它不会因为某个词重复多次就过度放大权重。

from sklearn.naive_bayes import MultinomialNB from sklearn.metrics import classification_report, confusion_matrix model = MultinomialNB( alpha=1.0, # 拉普拉斯平滑参数 fit_prior=True, # 从数据学习类别先验 class_prior=None # 不手动指定先验 ) model.fit(X_train, y_train) y_pred = model.predict(X_test) print(confusion_matrix(y_test, y_pred)) print(classification_report(y_test, y_pred, target_names=["ham", "spam"]))

alpha=1.0就是拉普拉斯平滑。如果不平滑，某个词在训练集里没出现过，它的条件概率就是 0，连乘之后整个后验概率变成 0，这叫零概率问题。平滑给每个词的出现次数加一个常数，保证概率不为零。alpha越大，平滑越强，模型越保守；alpha越小，越依赖训练数据。垃圾邮件场景一般从 1.0 开始调，范围在 0.01 到 10 之间。

3.2 先验概率要不要手动设：类别不平衡时的处理

fit_prior=True表示从训练数据里统计 spam 和 ham 的比例作为先验。如果训练集里 spam 占 30%，ham 占 70%，模型会倾向于把邮件判成 ham。这在真实场景里可能是合理的，因为误判一封正常邮件为垃圾的代价，通常比漏掉一封垃圾邮件更高。

但如果你的数据集严重不平衡，比如 spam 只占 5%，模型可能把所有邮件都判成 ham 也能有 95% 准确率，这时候准确率这个指标就失效了。要看召回率和精确率：

from sklearn.metrics import precision_recall_fscore_support precision, recall, f1, _ = precision_recall_fscore_support( y_test, y_pred, average=None, labels=[0, 1] ) print(f"ham 精确率: {precision[0]:.3f}, 召回率: {recall[0]:.3f}") print(f"spam 精确率: {precision[1]:.3f}, 召回率: {recall[1]:.3f}")

垃圾邮件过滤里，spam 的精确率表示「判为垃圾的邮件里有多少真的是垃圾」，召回率表示「真正的垃圾邮件有多少被抓住了」。如果精确率低，说明正常邮件被误杀，用户体验差；如果召回率低，说明垃圾邮件漏进来了。两个指标要一起看，不能只报准确率。

4. 从零实现朴素贝叶斯：不调库也能跑通的版本

4.1 手写训练过程：对数似然和拉普拉斯平滑

用 sklearn 三行代码就能出结果，但期末大作业通常要求你讲清楚内部逻辑，答辩时老师也可能让你手推公式。下面是一个不依赖 sklearn 的极简实现，核心就是统计词频、算对数概率、预测时取最大值。

import numpy as np from collections import defaultdict class NaiveBayesSpam: def __init__(self, alpha=1.0): self.alpha = alpha # 平滑参数 self.class_log_prior = {} # 类别先验的对数 self.word_log_prob = {} # 每个类别下每个词的条件概率对数 self.vocab = set() def fit(self, X, y): # X: 列表，每个元素是分词后的词列表 # y: 标签列表，0=ham, 1=spam n = len(y) class_count = defaultdict(int) word_count = defaultdict(lambda: defaultdict(int)) for words, label in zip(X, y): class_count[label] += 1 for w in words: word_count[label][w] += 1 self.vocab.add(w) vocab_size = len(self.vocab) for label in class_count: # 先验概率取对数，避免连乘下溢 self.class_log_prior[label] = np.log(class_count[label] / n) total = sum(word_count[label].values()) self.word_log_prob[label] = {} for w in self.vocab: # 拉普拉斯平滑：分子加 alpha，分母加 alpha * 词表大小 prob = (word_count[label][w] + self.alpha) / (total + self.alpha * vocab_size) self.word_log_prob[label][w] = np.log(prob) def predict(self, X): results = [] for words in X: scores = {} for label in self.class_log_prior: score = self.class_log_prior[label] for w in words: if w in self.vocab: score += self.word_log_prob[label][w] scores[label] = score results.append(max(scores, key=scores.get)) return results

这段代码的关键在fit里的平滑公式：(词频 + alpha) / (该类总词数 + alpha * 词表大小)。分母加alpha * vocab_size是为了保证所有词的概率之和为 1。预测时把所有词的对数概率相加，再加上类别先验的对数，取分数大的类别。用对数而不是原始概率，是因为几十个概率相乘会下溢到 0，取对数后变成相加，数值稳定。

4.2 预测阶段：为什么取对数、怎么处理未登录词

预测时遇到训练集里没见过的词（未登录词），直接跳过，不参与打分。因为平滑只保证训练集词表里的词概率不为零，词表外的词没有对应的概率值。这也是为什么max_features不能设得太小，否则很多有效词会被丢掉。

# 使用手写模型 nb = NaiveBayesSpam(alpha=1.0) nb.fit(train_words_list, y_train) pred = nb.predict(test_words_list) # 和 sklearn 版本对比 from sklearn.metrics import accuracy_score print("手写版准确率:", accuracy_score(y_test, pred))

手写版和 sklearn 版的结果应该接近，如果差很多，检查两个地方：一是分词逻辑是否一致，二是平滑参数是否相同。sklearn 的MultinomialNB默认alpha=1.0，和上面代码一致。如果手写版准确率明显低，大概率是词表构建或对数概率计算出了错。

注意：手写版没有做特征选择，词表可能很大，训练和预测都会慢。实际项目里还是建议用 sklearn 的CountVectorizer加MultinomialNB，手写版用来理解原理和应付答辩即可。

5. 避坑与排查：准确率上不去时先查这五件事

5.1 现象：准确率 99% 但实际用起来全是误判

原因：训练集和测试集有重叠，或者同一封邮件的副本被分到了两边。垃圾邮件数据集经常有重复样本，随机切分会导致信息泄漏。

解决：切分前先去重，用邮件正文的哈希值判断是否重复。如果数据集带时间戳，按时间切分。切分后检查训练集和测试集的词表重叠度，如果重叠度超过 90%，说明切分有问题。

5.2 现象：模型把所有邮件都判成 ham

原因：类别严重不平衡，spam 样本太少，先验概率把模型带偏了。或者alpha设得太大，平滑过度，所有词的概率都差不多。

解决：先看classification_report里 spam 的召回率。如果接近 0，把alpha降到 0.1 或 0.01 试试。如果还不行，用class_prior手动指定先验，比如class_prior=[0.5, 0.5]，强制两类等权。或者对 spam 样本做上采样。

5.3 现象：中文邮件分词后全是单字，效果很差

原因：jieba 默认词典对邮件里的网络用语、缩写、品牌名覆盖不够，分词结果碎片化。

解决：加载自定义词典，把邮件里高频出现的专有名词加进去。或者改用字符级 n-gram，用CountVectorizer(analyzer="char", ngram_range=(2,3))，对中文短文本有时比词级更稳。

# 字符级 n-gram 示例 vectorizer = CountVectorizer( analyzer="char", ngram_range=(2, 3), # 2-gram 和 3-gram max_features=8000 )

5.4 现象：训练很快但预测一封邮件要好几秒

原因：词表太大，预测时遍历所有词计算对数概率。或者用了GaussianNB处理稀疏矩阵，效率极低。

解决：限制max_features，或者用SelectKBest做卡方检验选特征。预测时只遍历邮件里实际出现的词，不要遍历整个词表。上面手写版的predict就是这么做的，只对words里的词查概率。

5.5 现象：换了数据集准确率从 98% 掉到 70%

原因：不同数据集的邮件长度、语言、主题差异很大，在一个数据集上调好的max_features和alpha换到另一个数据集就不适用了。

解决：把alpha和max_features当作超参数，用网格搜索重新调。不要指望一套参数打天下。

from sklearn.model_selection import GridSearchCV from sklearn.pipeline import Pipeline pipeline = Pipeline([ ("vec", CountVectorizer(tokenizer=tokenize_zh, max_features=5000)), ("nb", MultinomialNB()) ]) params = { "vec__max_features": [3000, 5000, 8000], "nb__alpha": [0.01, 0.1, 1.0, 10.0] } grid = GridSearchCV(pipeline, params, cv=5, scoring="f1") grid.fit(emails, labels) print(grid.best_params_)

scoring="f1"比默认的准确率更适合垃圾邮件场景，因为它同时考虑精确率和召回率。cv=5是 5 折交叉验证，比单次切分更可靠。

6. 把准确率再往上推一档：特征工程和阈值调整

朴素贝叶斯的性能上限很大程度上取决于特征质量，而不是模型本身。在邮件场景里，有几个低成本但效果明显的技巧。

第一个是加元特征。除了词袋，把邮件长度、大写字母比例、感叹号数量、是否包含 URL、是否包含电话号码作为额外特征拼进去。垃圾邮件往往有异常的长度分布和标点使用习惯。可以用scipy.sparse.hstack把词袋矩阵和这些数值特征拼在一起。

from scipy.sparse import hstack import numpy as np def extract_meta_features(emails): feats = [] for text in emails: length = len(text) upper_ratio = sum(1 for c in text if c.isupper()) / (length + 1) exclaim = text.count("!") + text.count("！") has_url = 1 if re.search(r"http|www", text) else 0 feats.append([length, upper_ratio, exclaim, has_url]) return np.array(feats) meta_train = extract_meta_features(train_emails) meta_test = extract_meta_features(test_emails) X_train_combined = hstack([X_train, meta_train]) X_test_combined = hstack([X_test, meta_test])

注意hstack要求两边都是稀疏矩阵或都能转成稀疏格式，数值特征记得做归一化，否则长度这个特征会盖过词频信号。

第二个是调整分类阈值。model.predict默认阈值是 0.5，即后验概率大于 0.5 就判 spam。如果你更在意不误杀正常邮件，可以把阈值提高到 0.7 或 0.8，牺牲一点召回率换精确率。

# 获取 spam 类的概率 proba = model.predict_proba(X_test)[:, 1] # 自定义阈值 threshold = 0.7 y_pred_custom = (proba >= threshold).astype(int) print(classification_report(y_test, y_pred_custom, target_names=["ham", "spam"]))

阈值调到多少合适，取决于你的业务容忍度。可以画一条 precision-recall 曲线，看哪个阈值下 F1 最高。这一步在答辩时很加分，因为它说明你不只是调库，还在做权衡。

第三个技巧是模型融合。朴素贝叶斯、逻辑回归、线性 SVM 在文本分类上各有侧重，把三个模型的预测概率平均一下，通常比单模型稳。垃圾邮件过滤里，朴素贝叶斯负责捕捉强信号词，SVM 负责处理高维稀疏特征，两者互补。

我自己做这类作业时踩过最深的坑，是花了两天调alpha，最后发现准确率上不去的原因是分词把「发票」和「开票」切成了不同的词，而它们在语义上是一回事。后来加了一个简单的同义词映射表，F1 直接涨了 3 个点。特征工程永远比调参划算，这句话在朴素贝叶斯上尤其成立。希望帮到你。

本文还有配套的精品资源，点击获取