AI创作黑名单实战：规则引擎+大模型搭建内容质检管道

1. 被AI同一句话刷了三遍屏之后，我决定动手了

1.1 那篇1000赞的内容，是怎么翻车的

先说一个真实场景。上个月我在某内容平台刷到一篇科技类短科普，讲的是某芯片架构的迭代历史，开头第一句就是"在数字化浪潮的推动下，该架构迎来了前所未有的发展机遇"。说实话，这句式我太熟了——过去三个月，我自己的AI创作后台里至少产出过几十条一模一样的开头。往下翻评论区，热评第一是"这内容是不是AI写的，一股预制菜味"。作者回复了个捂脸表情，承认确实用AI做了初稿，只是没想到润色得这么不走心。

这件事让我开始正视一个现象：Agent时代真正到来了，AI创作工具的门槛低到几乎每人手里都有一把"神器"，但产出内容的同质化、虚假信息粘连、风格崩坏问题也跟着雪崩式增长。市面上不缺AI生成器，缺的是给这些生成内容做质检的"筛子"。我那时候在做一个日常内容工作室，每天要产出十几个平台的几十条图文和短视频脚本，如果全靠人肉检查和修改，效率根本撑不住。于是我想着，干脆用豆包工作（我日常的主力AI创作辅助环境）搭一套自己的"AI创作黑名单"系统——不是禁止AI创作，而是把AI生成内容里那些一眼假、一口AI味、一碰就踩线的表达全部拦截下来，逼着再产出之前先过一道质检。

这篇文章就想把这些天我踩过的坑、试过的方案、跑出来的数据，原原本本分享出来。适合谁看？两类人。第一类是像我一样每天靠AI批量产出内容、又不想让账号变成AI垃圾场的创作者；第二类是在公司里做内容合规或AIGC质量管理的同学，这套"黑名单"的思路可以直接迁移到你们的审核管道里。

1.2 "黑名单"要接住的，到底是什么

"黑名单"这个概念，我第一反应是把它做成一个关键词库——把"赋能""抓手""闭环"这种AI味词全部拉黑，看到就标红。但真正跑了两天我就发现，这是最浅的一层。一篇内容翻车，隐患往往藏在三个更深的层次里：一是事实层，AI一本正经地编造数据、杜撰引文、编造历史事件；二是风格层，内容结构千篇一律，句式模板化严重，情绪空洞，也就是大家说的"AI味"；三是合规层，擦边球表述、敏感话题的越界试探、没有来源依据的断言。

这三层之间有很强的连带关系。比如一篇讲健康饮食的内容，AI在开头引用了某个"权威研究数据"说"每天喝两升柠檬水可降低30%患病风险"，这个数据大概率是幻觉生成的。如果黑名单只有关键词库，这种句子完全通过；如果加上了语义判定，就需要判断"30%这个数字是否有可靠出处"——这是传统规则引擎根本做不来的。所以我在设计时就定了一个原则：黑名单不是一个静态词表，而是词表+语义判别+多级校验组成的一个审核管道，豆包工作台负责提供大模型理解能力，我自己的规则引擎负责兜底和拦截。

这个判断在我后续搭建的时候被反复验证。一个纯词表系统上线第一天就能跑，误杀率奇高；一个纯大模型审核系统，又会在稳定性和成本上让人头疼。只有双轨跑起来，互相兜底，才真的能用。

2. 拆解AI创作的"脏数据"：三类必须进黑名单的内容

2.1 事实硬伤型：一本正经地胡说八道

第一类必须进黑名单的，就是事实硬伤型内容。大模型的本质是"根据上下文预测下一个token"，它没有内置的数据库，也没有主动联网核实的能力，生成的内容只是在概率上"像那么回事"。这就导致一个非常典型的现象：AI在信息密度越高的句子里，越容易编造细节。

我在测试中遇到过这么一条："某公司在2021年发布了一款支持Wi-Fi 7的旗舰路由器，售价定为2999元。"实际查询该公司当年的产品线，根本没有这款路由器，Wi-Fi 7商用普及也是2023年以后的事。整句话只有"2021年""2999元"这种看似精确的数字在撑场面，但这种精确恰恰是虚构感的来源。

所以我把事实硬伤拆成四个子类型，每个子类型设置了不同的拦截策略：

这里有个容易被忽略的点：黑名单不仅要拦"错误的表达"，还要拦"无法核实的表达"。我在规则里加了一条规定——如果一段内容里出现了"权威机构发布""研究显示""统计表明"这类措辞，但后面跟的数据没有可检索的来源信息，系统会直接给出中风险标记，要求人工复核。宁可误伤效率，也不能放跑一条没有来源的断言。

2.2 表达坍缩型：AI味浓到呛人

第二类是我个人最头疼的：表达坍缩型。这类内容没有事实错误，读起来也通顺，但就是"没有灵魂"。你把它和另外九篇AI写的内容放在一起，根本分不出谁是谁。

我梳理了一下，AI味主要来自几个高频特征。一是关联词堆砌，像"不仅…也…""在…的同时""随着…的不断发展"，这些关联结构在大模型的训练语料里出现频率极高，生成时被反复调用，结果就是每段开头都像套模板。二是抽象名词轰炸，"赋能""抓手""赛道""颗粒度"这类商业黑话被当成万能填充物。三是总结式结尾，几乎每篇内容最后一段都会变成"总而言之，XXX不仅YYY，更ZZZ"。

针对这种情况，我在黑名单系统里加了一个"风格指纹"模块。具体做法是：把豆包工作生成的文本切分成句子，逐一提取句式特征，和一份"AI典型句式库"做相似度计算。如果一篇500字的内容里，AI典型句式的占比超过30%，系统就会打上"高AI味"标签，要求重写或深度修改。

这个模块的准确率一开始并不理想。我用的相似度阈值是0.85，结果很多人类写的、稍微带点公文风格的文章也被判成了AI味。后来我调整了策略，把原来的"全文统一打分"改成了"段落级打分+重点句提取"，只对开头段、转折段、结尾段做严格判定，因为这三大位置是最容易暴露AI味的地方。调整之后，整体准确率才算拉到了一个能用的水平。

2.3 合规风险型：擦边球与灰色试探

第三类是合规风险型，这个也是最不能被忽视的。我在做内容工作室时有一个很深的体会：AI生成内容的"擦边能力"远超很多人的预期。它不会直接写违规内容，但它会在语义上打擦边球——比如用谐音、隐喻、间接暗示去表达一些敏感或低俗的内容。这种内容如果人工审核要花很长时间去判断，但AI生成的时候却是"顺手"的。

我的处理方式是在黑名单里建一个优先级最高的"红线库"。这个库的关键不只是词本身，而是要定义词的上下文触发条件。比如某个词出现的时候，前后文如果同时出现"购买""点击""加微信"等商业转化动作，风险等级就要提级。如果只是正常表达，就降级为观察。

豆包工作为这个模块提供了一项很关键的能力：多轮语义判定。我构建了一个审核Prompt，要求模型在回答时不仅给出"是否违规"的二元结论，还要给出三段式输出——违规片段定位、违规类型、涉及的具体规则条款。这个设计后来帮了大忙，人工复核时不必再回到原文里反复找，效率至少提升了一倍。

3. 从零搭建：豆包工作流+规则引擎的双轨审核管道

3.1 为什么选豆包工作，而不是从训练一个模型开始

在动工之前，我把可选方案列了一遍。第一种是微调一个专属审核模型，训练数据、算力、迭代周期都是大坑，对于我一个个人创作者来说完全不现实。第二种是直接用现成的开源敏感词库配合正则匹配，开发速度最快，但无法处理语义类问题，最多拦个表面词。第三种就是我现在采用的：豆包工作流做语义理解，自建规则引擎做硬拦截。

选豆包工作的原因有三个。第一，它有稳定API接口，支持批量调用，而且token成本相对于我一个人试用是完全可以接受的；第二，它的语义理解能力在处理"黑名单上下文判断"这类任务时表现不错，尤其是判断一段内容的"言外之意"；第三，也是最重要的，我可以在它的工作台里搭建自定义工作流，把"文本接收→分段切分→语义判定→规则引擎过滤→结果结构化输出"整条链路可视化地串起来，调试起来非常直观。

这里给第一次接触这类工作的朋友一个建议：不要一上来就追求"全自动"。先把整套审核管道跑通，让人工复核兜底，再逐步提高自动拦截的比例。我见过太多人一上来就把所有内容全自动审核，结果误杀率直接把业务搞崩了。

3.2 双轨判定的核心逻辑与API调用细节

整个审核管道的核心可以浓缩成一句话：规则引擎负责"一票否决"，大模型负责"合理怀疑"。两者的关系不是谁替代谁，而是分级处理。

具体流程是这样的。输入内容先走规则引擎，做三件事：关键词命中检查、正则模式匹配（比如手机号、金额、日期格式的异常组合）、引用措辞扫描（"研究表明""数据显示"这类）。如果命中了红线库里的词，直接拦截，不再调用大模型；如果命中了中风险词，标记后继续送大模型做语义判定；全部通过才进入大模型阶段。

大模型阶段我写了一个比较详细的system prompt，核心要求是：只输出JSON结构，不要解释。这个细节非常关键，因为如果你不限制输出格式，模型会附带生成一堆废话，后面的结构化解析就非常痛苦。我的prompt大致如下：

你是一个AI生成内容质检员。请对以下文本进行审核，判断是否存在以下问题： 1. 事实无依据（包含无法核实的数字、出处、断言） 2. 表达高度模板化（AI味明显） 3. 合规风险（擦边、隐喻、敏感表述） 对每个问题输出：是否命中、命中片段原文、问题类型、置信度（0-1）、建议操作（pass/review/reject）。 输出格式为JSON数组，不要输出任何解释。

调用的时候，我在代码里设置了一个很关键的后置校验：如果返回JSON解析失败，这条内容默认置为"人工复核"，而不是放行。这是我在一次事故里总结出的教训，后面踩坑部分我会详细讲。

3.3 黑名单词库怎么分级、怎么维护

黑名单词库是整个系统里看似最简单、实际最考验维护功力的部分。我把它分成三个等级。

一级是"硬拦截库"，命中即拒。这个库只放那些在任何语境下都不能出现的词，数量不多，但每一条都是红线，宁缺毋滥。二级是"高风险库"，命中后送大模型进一步判定。这个库收集的是那些"不一定违规、但需要看上下文"的词，比如一些擦边词、行业黑话、夸大宣传词。三级是"风格噪音库"，不拦截内容，只负责打标，用于后续的AI味统计和写作风格调优。

词库的维护频率比我想象的高得多。基本上每跑完一批真实内容，都能发现几个新的"漏网之鱼"。我的做法是在豆包工作的提示词里固定加一条："如果发现你觉得应当引起审核注意但规则未覆盖的表述，请在名为suggestion的字段中输出"。这样每次审核都变成了一次半自动的语料采集，词库的扩充不需要我自己去翻历史记录，模型会帮我把候选词沉淀下来，我再每周做一次人工筛选，确认后正式并入对应等级。

这个机制跑了两周后，三级词库从初始的80个词涨到了将近400个，而且覆盖的很多词是我作为一个真人创作者完全想不到的——比如某些看起来完全正常的日常用词，在特定行业语境里竟然有完全不同的含义。这类信息差，光靠人肉去积累根本追不上。

4. 实测两周的数据与五次打补丁：误判才是最大的敌人

4.1 首批500条内容的测试结果

搭建完成后，我用真实的生产数据做了两轮测试。第一轮是回测，找了500条过去一个月里AI生成的、已经人工处理过的内容，把黑名单系统的判定结果和人工结果做对比。第二轮是向前测试，把系统接入了新的内容生产流程，跑了整整两周。

先看回测数据，整体情况如下：

说实话，正确拦截率86.7%不算亮眼，但作为第一版已经能用了。真正让我头疼的是误杀率11.3%，这意味着每十条内容里就有一条被冤枉。对于内容生产效率来说，这个比例已经足以造成明显的节奏拖慢。

4.2 五个误判场景，以及我是怎么修的

两周跑下来，我记录了三十多条误判样本，归拢成五类典型场景。每一个场景我最后都打了补丁，这里挑三个最有代表性的说。

第一个场景是"行业术语被当成了AI味"。我测试的内容里有不少是讲音视频处理的，里面会出现"码率""分辨率""帧率适配"这些词。结果风格指纹模块把它们识别成了抽象名词，判定为AI味过重。补丁方案：在风格噪音库里给术语开白名单，凡是在白名单内的词，不参与AI味统计。

第二个场景是"引用官方公告被误判为虚假出处"。有一条内容引用了某地政府公布的民生数据，黑名单系统看到"数据显示"就启动了事实核验逻辑，结果因为数据源不在模型知识库内，直接标成了中风险。补丁方案：对包含"政府发布""文件编号""公告日期"等强引用标记的内容，降低事实核验的优先级，转为人工快速复核。

第三个场景最坑，JSON解析失败导致内容被误拦截。有一次豆包工作的API返回内容里多了一段非JSON的说明文字，我的解析代码直接抛异常，按照之前的设定走了"人工复核"。但问题是那批内容有几十条，人工复核撑不住，积压严重，最后有几条其实内容完全正常的内容因为超时被系统自动判成了"拒绝"。这个问题的修复方案是双管齐下：一方面在调用代码里加了prompt重试机制，解析失败自动重发一次请求并要求"只输出JSON"；另一方面把超时默认策略从"拒绝"改成了"放行并标记"，宁可让有问题的内容流到人工审核台上，也不能让正常内容被无辜斩首。

4.3 用"轻拦截+重标注"替代一刀切

这几轮打补丁下来，我悟出了一个很重要的原则：黑名单系统的目标不是追求拦截率100%，而是把每一条内容的问题暴露出来，把决策权交还给人工。

第二周我开始调整策略，把原先的一部分"拦截"操作降级为"标注"。比如AI味超过阈值的，原来会直接打回重写，现在改成了在后台生成一份修改建议清单，并标注"建议修改但允许发布"。事实证明，不少AI味明显的内容其实是可以用在非正式渠道的，强制打回反而限制了创作者的灵活度。

数据也支撑这个调整。第二周的误杀率从11.3%降到了6.8%，正确拦截率反而小幅上升到了89.1%。原因很简单：模型在"判断问题是否存在"上的能力，明显强于"判断问题是否致命"。前者是个理解任务，后者是个决策任务。让模型做理解，让人类做决策，这个分工越清晰，系统的整体体验越好。

5. 黑名单之外的内容护栏：AI创作质量管理的下一步

5.1 从拦截劣质内容，到引导优质内容

跑通黑名单之后，我发现自己其实误打误撞踩进了一个更大的命题：内容质量管理的核心，不是过滤掉坏的，而是让好的内容更容易被生产出来。

一开始，黑名单只是帮我"少发垃圾"。但当我积累了足够多的标注数据之后，我发现这套系统完全可以反过来用——从历史审核数据里提炼优质内容特征，反过来指导创作。比如我在跑测试时注意到，AI生成的内容里凡是包含具体案例、真实体验细节、个人化描述的段落，被黑名单打回的频率明显更低，审核通过率更高。这个发现后来被我写进了创作提示词模板里，要求AI在生成初稿时尽量构造"真实场景代入"的段落结构。

换句话讲，黑名单其实是一面镜子。每一次拦截都在暴露AI创作的薄弱环节，而这些薄弱环节恰恰就是人工创作者最容易建立优势的地方。比如我刚才说的事实核验问题，AI没法保证数字的真实性，但一个创作者可以通过实地调研、采访、亲测得到准确信息。当工具越来越强，人的价值不在于比工具"生成得更快"，而在于比工具"更接近真实"。

5.2 给同样被AI内容淹没的人三个建议

文章的最后，我想给同样在Agent时代做内容生产的人三个具体建议，都是我这两周付了学费换来的。

第一个建议：黑名单和拦截不是一回事。别急着把系统做成"见一个杀一个"的执法者。先做成一个"贴标签的人"，让每条内容带着明确的标签去走人工流程，等数据积累足够、误杀率降下来之后，再把高置信度的标签升级为自动拦截。这个节奏能帮你少踩一半的坑。

第二个建议：大模型能做语义判断，但别让它做最终决定。我踩过的最深的一个坑，就是让模型输出"是否拒绝"，结果模型的判断标准时紧时松，几天之间的行为差异很大。后来我把决策逻辑改成了纯规则驱动，模型只负责事实排查和风险标注，所有reject结论都来自确定性代码，系统的行为才变得可预测。可预测，对于审核系统来说比聪明更重要。

第三个建议：定期翻黑名单的"漏网之鱼"。不要只盯着被拦截的内容，隔几天就抽样看看那些被系统放行、但在实际站点上表现不佳的内容。我大概每隔三天做一次这样的抽样，每次都能发现几个新的规则盲点。黑名单本质上是永远补不完的，所以维持一个"发现盲点→补规则→验证效果"的循环，比追求某一个版本的完美更重要。

这套系统现在还在我这边天天跑着，每个工作日大概要处理一百多条新产生的内容，帮我挡掉了大量会让账号掉权重的"AI味内容"。我始终觉得，Agent时代真正危险的不是AI不够好用，而是太好用了——好用到让人忘了思考。黑名单这东西，拦的不是AI，是我们自己的偷懒。如果你也在批量使用AI创作，不妨也搭一个自己的"黑名单"，让工具替你守住质量的那条线。