PyTorch新闻文本分类实战：TextCNN模型训练与避坑指南

简介：面向Python自然语言处理入门者和进阶学习者，以PyTorch框架实战新闻数据集的文本分类任务，覆盖数据读取、文本预处理、模型构建、训练评估到模型保存的完整流程，并配有可运行的源代码和文档说明。压缩包共15个文件，包含7个Python脚本、4个文本说明、2个NumPy数据文件、1个模型权重以及1个Markdown文档，整体大小15.6MB，适合对照学习或直接二次开发。资源已有2589人学习，来自CSDN下载频道，由作者weixin_42756970整理分享。通过该项目可掌握torchtext的Field与TabularDataset用法、CNN/RNN文本分类模型搭建、损失函数与优化器选择、训练调参及防过拟合技巧，对提升深度学习NLP实战能力有明显帮助。

1. 新闻文本分类实战：这篇PyTorch源代码解决什么问题

标题拆开看就三件事：Python、基于PyTorch的深度学习框架、新闻文本分类。核心诉求是把体育、财经、娱乐、科技、军事这类语义倾向明显的新闻文本，自动归到对应类别里。实际项目里你会发现，规则匹配写了上百条还是漏，而一个训练好的分类模型能覆盖绝大多数长尾表达。这篇实战笔记面向的读者是：会Python基础语法、想入门PyTorch但不想一直跑MNIST手写数字的人。它的价值不在代码行数，而在完整链路：数据清洗、分词、建词表、模型训练、评估、保存推理，每一步都是真实工程里绕不开的活。先给一个反直觉的结论：新闻文本分类里，模型结构远没有你想的那么重要，真正决定训练成败的是数据处理和超参数。

2. 环境与数据先行：Anaconda配置PyTorch环境、新闻语料与词表构建

2.1 Anaconda配置PyTorch环境：CPU版起步，GPU版按需升级

如果你还没装过PyTorch，强烈建议先用Anaconda把环境隔离出来。Anaconda解决的不只是PyTorch安装，还有后面jieba、scikit-learn、pandas这一堆库的依赖冲突问题。见过太多人把库装进系统Python，三个月后项目一多，整个环境乱成一锅粥，最后只能重装系统。

# 创建python 3.9环境，名字叫nlp conda create -n nlp python=3.9 -y conda activate nlp # 安装CPU版pytorch，新手先跑通流程 pip install torch torchvision --index-url https://download.pytorch.org/whl/cpu # 常用库一次装齐 pip install jieba numpy scikit-learn pandas

这里有两个值得说清楚的选型理由。第一，为什么用python 3.9而不是最新的3.12？PyTorch对新版本Python的适配往往滞后，老版本反而最稳，3.9对PyTorch、jieba这些库的兼容性都是被反复验证过的。第二，为什么先装CPU版？调通代码优先。新闻分类这种任务，几万条训练集用CPU版也能在一两个小时内跑完，省去CUDA、cuDNN版本匹配的折腾。等确实需要提速，再按显卡驱动支持的CUDA版本去装GPU版。

装完先验证环境，这一步别省：

import torch print(torch.__version__) print(torch.cuda.is_available())

能打印出版本号就说明PyTorch环境搭建成功。开发工具我推荐VSCode，装好Python和Jupyter插件，跑这种单文件工程比重量级IDE轻快得多。环境就绪后，下一步是数据。

2.2 新闻数据集怎么来：直接下公开语料，别一上来就写爬虫

新闻分类最常用的公开数据集是THUCNews，清华整理的中文新闻语料，还有搜狗新闻语料，都是已经分好类别的纯文本，直接拿去训练。这里我给新手的建议是：不要一上来就写python爬虫去抓新闻网站。爬虫本身不难，难在清洗和打标，网站结构变了规则就失效，标签还不一定对得上，这个成本远比训练模型高。公开数据集的格式通常是下面这样，每一行一条样本，tab分隔：

把数据切成三个文件：train.txt训练、val.txt验证、test.txt测试。注意切分方式别用随机切，这点后面避坑章节专门讲。拿到原始语料后，先把类别分布统计一遍，比如体育5万条、军事只有3千条，这种不平衡后面要用权重去补。

2.3 用jieba分词构建词表：min_count和截断长度两个关键参数

中文文本分类和英文最大的区别是分词。英文按空格切就行，中文必须用分词工具，最常用的就是jieba。实测发现，新闻语料里固定搭配很多，"火箭队大胜"、"央行降息"这类词组合在一起才有明确语义，按单字切会丢失这些信息。

import jieba def cut_text(line: str) -> list[str]: return [w.strip() for w in jieba.cut(line.strip()) if w.strip()] # 示例验证 print(cut_text("火箭队今晚客场挑战湖人队，最终以112比108取胜")) # ['火箭队', '今晚', '客场', '挑战', '湖人队', '最终', '以', '112', '比', '108', '取胜']

分词完成后构建词表。词表的逻辑很简单：统计训练集所有词频，保留出现次数够多的词，给每个词编一个整数索引。出现次数太少的词大概率是错别字或噪声，直接映射到UNK。

from collections import Counter word_freq = Counter() with open('data/train.txt', encoding='utf-8') as f: for line in f: label, content = line.strip().split('\t', 1) word_freq.update(cut_text(content)) min_count = 3 vocab = {'<PAD>': 0, '<UNK>': 1} for w, freq in word_freq.items(): if freq >= min_count and len(w) > 1: vocab[w] = len(vocab) print('词表大小:', len(vocab))

min_count=3表示一个词至少出现三次才保留，太小会把噪声引进来，太大又会丢掉有区分度的低频词。过滤len(w)>1是为了去掉单字，"的、了、啊"这类虚词对新闻分类几乎没有贡献。一个小经验：词表大小在2万到8万之间比较正常，如果超过10万，多半是语料太杂或min_count设太低。词表是后续所有步骤的地基，训练和预测必须共用同一个词表，这个坑在避坑章节会细讲。

3. 模型选型与源码实现：为什么第一个项目该选TextCNN

3.1 文本分类模型对比：TextCNN、LSTM与基于大模型文本分类的取舍

很多人一看到"文本分类"就想着上大模型，最近基于大模型文本分类的热度确实高，但落到这个实战项目里，我要泼盆冷水：新闻分类真没必要一上来就上大模型。原因有三点。第一，新闻文本动辄几百上千字，喂给大模型的token开销和推理延迟，在批量处理场景下成本扛不住。第二，TextCNN结构简单，参数量小，CPU上几小时就能训完一个能用的模型。第三，新闻类别之间语义差异巨大，"体育"和"财经"的词分布几乎没有重叠，传统深度模型完全够用。

我的建议很直接：第一个项目选TextCNN。等把数据、训练、评估这条链路跑通了，再往复杂模型迁移，那时候你才知道复杂模型到底强在哪里。直接上手Transformer，损失函数不降你都不知道该调数据还是调模型。

3.2 数据装载：Dataset与DataLoader把新闻文本变成PyTorch张量

模型训练不能一次性把所有文本读进内存，需要按批次喂数据。PyTorch的Dataset和DataLoader就是干这个的。先把每条新闻转成词索引序列，然后统一长度，长的截断，短的补PAD。

import torch from torch.utils.data import Dataset, DataLoader class NewsDataset(Dataset): def __init__(self, filepath, vocab, max_len=300): self.data = [] self.label_map = {} # 标签文本 -> 索引 with open(filepath, encoding='utf-8') as f: for line in f: label, content = line.strip().split('\t', 1) if label not in self.label_map: self.label_map[label] = len(self.label_map) ids = [vocab.get(w, vocab['<UNK>']) for w in cut_text(content)] ids = ids[:max_len] + [vocab['<PAD>']] * max(0, max_len - len(ids)) self.data.append((torch.tensor(ids), self.label_map[label])) def __getitem__(self, i): return self.data[i] def __len__(self): return len(self.data) train_ds = NewsDataset('data/train.txt', vocab, max_len=300) train_loader = DataLoader(train_ds, batch_size=64, shuffle=True)

max_len=300的设定依据是新闻的正文通常在200到800字之间，前300字基本涵盖导语和核心事件。截断取前300，是假设新闻的"5W1H"都在开头。这里有个容易被忽略的细节：ids[:max_len] + [vocab['<PAD>']] * max(0, max_len - len(ids))，补PAD的个数必须是max(0, ...)，否则短文本会补出负数个PAD报错。DataLoader的shuffle=True保证每个epoch样本顺序不同，防止模型记住批次顺序。

3.3 TextCNN核心代码：Embedding、三种卷积核与最大池化

TextCNN的思想一句话讲完：用多个不同宽度的卷积核在词向量序列上滑动，分别捕捉相邻2个词、3个词、4个词的局部组合特征，再用最大池化把每个卷积核提取到的最强特征抽出来。完整实现如下：

import torch.nn as nn import torch.nn.functional as F class TextCNN(nn.Module): def __init__(self, vocab_size, embed_dim=200, num_filters=128, filter_sizes=(2, 3, 4), num_class=10): super().__init__() self.embedding = nn.Embedding(vocab_size, embed_dim, padding_idx=0) self.convs = nn.ModuleList([ nn.Conv2d(1, num_filters, (fs, embed_dim)) for fs in filter_sizes ]) self.dropout = nn.Dropout(0.5) self.fc = nn.Linear(num_filters * len(filter_sizes), num_class) def forward(self, x): # x: [batch_size, seq_len] emb = self.embedding(x) # [batch, seq_len, embed_dim] emb = emb.unsqueeze(1) # [batch, 1, seq_len, embed_dim] outs = [] for conv in self.convs: c = conv(emb).squeeze(3) # [batch, num_filters, seq_len - fs + 1] c = F.relu(c) c = F.max_pool1d(c, c.size(2)).squeeze(2) # [batch, num_filters] outs.append(c) out = torch.cat(outs, dim=1) # [batch, num_filters * 3] out = self.dropout(out) return self.fc(out)

几个参数值得展开。filter_sizes=(2,3,4)分别对应看相邻两个词、三个词、四个词的组合，新闻里"央行降息"是三连词组合，靠宽度3的卷积核抓取。nn.Conv2d的输入通道是1，相当于把整句话当成一张单通道的"图"，卷积核宽度等于embed_dim=200，这样卷积只在序列方向上滑动。padding_idx=0让PAD位置的embedding不参与梯度更新，减少无效计算量。dropout=0.5放在全连接前，新闻语料通常几万条，这个数据量下不加dropout很容易过拟合。

这段代码加前面的数据装载，就是这个实战项目的"源代码"核心。我建议你先敲一遍再跑，理解每一行在干什么，比直接clone别人的完整工程收获大得多。embed_dim=200是经验值，太小表达力不够，太大训练变慢，200在新闻分类这个数据规模下表现稳定。跑通之后想调，优先动num_filters和dropout，不要一上来就动卷积核数量。

4. 训练与评估：让模型稳定收敛的优化器、学习率与指标配置

4.1 优化器与损失函数：Adam加CrossEntropyLoss，学习率设0.001

训练配置里最容易翻车的是学习率。学习率太大，损失函数曲线像锯齿一样上下震荡；太小，训了10个epoch还停在原地。我一般先设0.001，这是Adam在文本分类任务里被验证过无数次的默认值。损失函数直接用CrossEntropyLoss，它内部已经做了softmax，所以模型最后一层不需要显式加softmax。

import torch.optim as optim model = TextCNN(vocab_size=len(vocab), num_class=10) criterion = nn.CrossEntropyLoss() optimizer = optim.Adam(model.parameters(), lr=0.001, weight_decay=1e-4)

weight_decay=1e-4是L2正则，作用是约束权重不要长得太大，配合dropout一起防过拟合。如果你的新闻数据集类别分布不均，比如体育5万条、军事3千条，可以给损失函数加类别权重，让低频类的错误被放大，模型才不会只顾着学高频类：

class_weight = torch.tensor([1.0, 1.0, 1.5, 1.0, 0.8, 1.0, 2.0, 1.0, 1.0, 1.0]) criterion = nn.CrossEntropyLoss(weight=class_weight)

注意class_weight的每个位置要和label_map里的类别索引一一对应，通常取该类别样本总数的反比再归一化。不确定怎么设就先全设1.0，等到看验证集分类报告时，哪个类别recall低再单独调哪个。

4.2 训练循环怎么写：batch迭代、反向传播与学习率调度

训练循环的骨架每个PyTorch项目都差不多：零梯度、前向、算loss、反向、更新。但有几个细节新闻分类里特别重要。第一，loss要按样本数加权平均，否则batch大小不一致时loss对比失真。第二，每个epoch结束要在验证集上评估一次，不要只在训练集上看loss。

from sklearn.metrics import accuracy_score def train_epoch(model, loader, optimizer, criterion, device='cpu'): model.train() total_loss, all_preds, all_labels = 0, [], [] for batch_ids, batch_labels in loader: batch_ids, batch_labels = batch_ids.to(device), batch_labels.to(device) optimizer.zero_grad() logits = model(batch_ids) loss = criterion(logits, batch_labels) loss.backward() optimizer.step() total_loss += loss.item() * len(batch_labels) all_preds.extend(logits.argmax(dim=1).tolist()) all_labels.extend(batch_labels.tolist()) avg_loss = total_loss / len(loader.dataset) acc = accuracy_score(all_labels, all_preds) return avg_loss, acc scheduler = optim.lr_scheduler.StepLR(optimizer, step_size=2, gamma=0.8) for epoch in range(1, 11): loss, acc = train_epoch(model, train_loader, optimizer, criterion) scheduler.step() print(f'epoch {epoch}: loss={loss:.4f}, acc={acc:.4f}')

StepLR每2个epoch把学习率乘0.8，让模型在训练后期用小步长做精细调整。手动改学习率很容易忘，scheduler一步到位。为什么10个epoch就够？TextCNN在第3到4个epoch基本收敛，后面只是微调，硬训20个epoch反而会过拟合。如果观察到第3个epoch准确率还在明显上涨，可以手动延长。训练时每轮打印一次loss和acc就够了，不要每个batch都打印，刷屏刷到看不清关键信息。

4.3 评估指标：准确率之外，按类别看precision、recall、F1

新闻分类的类别通常有10个左右，只看准确率会被骗。新闻数据集天然不均衡，模型会偏向高频类，军事、科技这种低频类准确率掉到70%你也发现不了。所以评估必须按类别拆开看。单独写一个验证函数，用torch.no_grad()关掉梯度计算，省显存也省时间：

@torch.no_grad() def evaluate(model, loader, criterion, device='cpu'): model.eval() total_loss, all_preds, all_labels = 0, [], [] for batch_ids, batch_labels in loader: batch_ids, batch_labels = batch_ids.to(device), batch_labels.to(device) logits = model(batch_ids) total_loss += criterion(logits, batch_labels).item() * len(batch_labels) all_preds.extend(logits.argmax(dim=1).tolist()) all_labels.extend(batch_labels.tolist()) return total_loss / len(loader.dataset), all_preds, all_labels from sklearn.metrics import classification_report loss, preds, labels = evaluate(model, val_loader, criterion) id_to_label = {v: k for k, v in train_ds.label_map.items()} target_names = [id_to_label[i] for i in range(len(id_to_label))] print(classification_report(labels, preds, target_names=target_names))

classification_report会输出每个类别的precision、recall、f1-score和support样本数。看报告的顺序是：先看总准确率，然后挨个类别扫一遍，重点找recall明显低于其他的类别。recall低说明模型把这类新闻错分成了别的类，处理办法一个是从数据侧补样本，另一个是调class_weight加大该类loss权重。这一步千万别跳，跳过等于闭着眼睛上线。

5. 实战避坑：新闻文本分类最容易翻车的5个现场

5.1 词表在训练和预测时不一致，预测结果全乱

现象：训练时准确率95%，拿新的新闻文本去预测，结果全部乱套，连"体育"新闻都被判成"财经"。

原因：预测脚本里重新构建了一次vocab。新语料的词频排序和训练时不一样，同一个词在两个词表里的索引对不上，模型读进去的向量相当于乱码。

解决：训练完成后把vocab和label_map用pickle存下来，预测脚本直接加载，绝不重建。

import pickle with open('vocab.pkl', 'wb') as f: pickle.dump({'vocab': vocab, 'label_map': train_ds.label_map}, f)

这个坑几乎每个做过文本分类的人都踩过，因为训练脚本和预测脚本经常分开写，词表构建代码被复制了一份就埋下隐患。养成习惯：词表只允许在训练脚本里构建一次，其他任何脚本一律加载。

5.2 中文乱码导致损失函数全程不降

现象：loss值一直停在2.30左右不动，10分类随机猜的交叉熵正好是log(10)≈2.30，训练等于没发生。

原因：文件编码不是utf-8，jieba读进来全变成乱码，词表里全是无效字符。Windows下导出的txt文件默认可能是GBK编码，直接喂给jieba就废了。

解决：统一用encoding='utf-8'打开文件。预处理时先用chardet检测文件编码，发现是GBK就转码。检查方法简单粗暴：打开词表看一眼前20个词，如果全是"锟斤拷"这类乱码字符，基本就是编码问题。

5.3 GPU显存溢出的两个隐藏原因

现象：batch_size设128直接OOM，改到64还是崩。

原因：一个是max_len设太大，比如设了1000，输入张量是64×1000，Embedding之后中间张量膨胀得厉害；另一个是卷积层没有做任何池化就把中间结果全部保存在计算图里，反向传播要用的中间变量全占显存。

解决：先把max_len降到300，batch_size降到32，验证能跑通后再逐步加大。新闻有效信息集中在句首句尾，300个字对于分类任务已经足够，扩大max_len的收益远小于显存开销。判断依据是训练集里超过300字的样本占比，一般不到20%，直接截断影响很小。

5.4 随机切分训练验证集，评估结果虚高

现象：验证集准确率97%，上线后真实表现只有80%。

原因：验证集是从同一个语料库里随机抽的，训练集和验证集里有大量相似表达，甚至同一条新闻被切成两半分别进了两边。模型在验证集上"记住了"训练见过的表述，遇到没见过的新闻就露馅。

解决：按时间切分。新闻有天然的时间属性，用前三个月训练、后一个月验证，才能模拟真实的预测场景。如果数据集没有时间戳，至少要按标题去重。公开数据集没有按时间切分好的版本，需要自己写脚本处理。这个坑是评估和上线差距最大的来源，比调参重要得多。

5.5 标签分布极度不均衡，低频类全被吞掉

现象：体育类5万条、军事类3千条，分类报告里军事类的recall只有40%，大部分军事新闻被分去了体育或时政。

原因：交叉熵优化的是全局loss，高频类贡献的梯度大，模型学到的决策边界整体偏向高频类。

解决：给低频类loss加大权重，或者对低频类做过采样。实操上加权更省事，把军事类的class_weight从1.0提到2.0再观察。一句话记住：新闻分类里数据不均衡是常态，不是bug，评估时按类别看F1才是唯一可信的标尺。

6. 进阶一步：预训练词向量初始化与早停，把准确率再提3个点

到这里你的TextCNN已经能跑出90%左右的准确率。想再进一步，最常见的做法是引入预训练词向量。新闻文本里专有名词多，公司名、人名、地名在训练集里往往只出现几次，从零训练的Embedding根本学不好这些词。预训练向量是在大规模通用语料上学好的，恰好补上这块短板。

具体操作分三步。第一步，下载公开的中文预训练词向量，注意要选和新闻领域接近的语料训练的版本。第二步，用gensim加载，把词表里命中的词向量拷贝到Embedding矩阵，没命中的随机初始化。第三步，训练时先冻结Embedding两轮，再解冻微调。

import numpy as np def build_pretrained_embedding(vocab, vector_path, embed_dim=200): import gensim kv = gensim.models.KeyedVectors.load_word2vec_format(vector_path, binary=False) matrix = np.random.uniform(-0.05, 0.05, (len(vocab), embed_dim)) hit = 0 for w, idx in vocab.items(): if w in kv: matrix[idx] = kv[w] hit += 1 print(f'命中率: {hit / len(vocab):.2%}') return torch.tensor(matrix, dtype=torch.float32) model.embedding.weight.data.copy_(build_pretrained_embedding(vocab, 'pretrained_news_w2v.txt')) model.embedding.weight.requires_grad = False

命中率是第一个要看的指标。低于70%说明预训练语料和新闻领域差异太大，强行初始化收益有限，不如继续用从零训练的Embedding。冻结两轮的意义在于让卷积层先适应预训练向量的分布，避免一开始Embedding和卷积层同时剧烈调整导致训练不稳定。两轮之后解冻：

model.embedding.weight.requires_grad = True

配合预训练向量，再补一个早停机制。验证集F1连续三轮不升就停止训练，并回滚到表现最好的那次权重，这是防止过拟合最有效的后悔药。保存最优模型的习惯也值得养成，不要只存最后一个epoch的权重：

torch.save(model.state_dict(), f'checkpoint_{best_f1:.3f}.pt')

我自己的习惯是，任何文本分类项目先跑一次词向量命中率，低于70%直接换方案，不浪费时间硬调。这个方向可以一直往深做，比如把TextCNN换成基于大模型文本分类的蒸馏方案，但先把手上的TextCNN调到验证集F1不再增长，再去碰更复杂的结构，这条路收益最实在。希望这个方案帮到你。

本文还有配套的精品资源，点击获取