摘要：推荐系统评估的正确姿势是组合指标：CTR 看吸引力、CVR 看商业价值、多样性与新颖性防同质化退化、覆盖度看长尾健康；离线指标用于快速迭代，线上 A/B 用于最终归因。任何单一指标优化到极致，通常都会伤害其他维度。
"推荐效果好不好"如果只能用一个数字回答，这个数字几乎一定会在几周内欺骗你。点击率是最容易被优化的指标——把标题改刺激一点、把擦边内容排前面，CTR 立刻上涨，代价是用户信任与长期留存。评估体系的意义就在于用一组互相制衡的指标描述"效果"：过程指标反映即时反应，价值指标反映商业结果，健康度指标防止系统为了短期数字而退化。本文给出一套可落地的评估框架：核心指标的定义与分工、指标之间的制衡关系、离线与线上评估的各自角色，以及四个最常见的评估误区。
关键要点
- 过程指标与价值指标必须分开：CTR 是过程，CVR 与 GMV 增量才是价值，只优化过程指标会跑偏。
- 多样性、新颖性、覆盖度是"防退化"指标：它们不直接涨收入，但决定推荐生态的长期健康。
- 离线指标（召回率、排序质量）用于快速迭代，线上 A/B 才是效果归因的唯一标准。
- 评估要有时间维度：即时点击率上升常伴随长期留存下降，短期窗口与长期窗口都要看。
- 每个推荐场景设独立指标组合与基线，跨场景比 CTR 没有意义。
- 新增指标前先问"它制衡什么"：不能制衡任何现有指标的指标只是报表负担。
一、指标体系的三层结构
过程层：用户反应。CTR（点击率）反映推荐的即时吸引力；消费深度（翻页数、停留时长）反映持续兴趣。这层指标高频、样本大，适合日常监控与快速迭代，但它只说明"用户点了"，不说明"点得值不值"。
价值层：商业结果。CVR（推荐位点击后的转化率）、推荐贡献 GMV、连带客单。这层样本少、波动大、归因链条长，但它是推荐系统存在的理由。CTR 与 CVR 的组合诊断尤其重要：CTR 高、CVR 低，多半是标题党或错位引流；CTR 低、CVR 高，可能是召回保守，探索不足。
健康层：生态防退化。多样性（推荐结果的类目分散度）、新颖性（推荐中新品与用户未接触内容的占比）、覆盖度（被推荐系统分发到的物品占全量物品的比例）。这层指标不直接产生收入，但它的恶化是缓慢而不可逆的——推荐越收敛，用户行为数据越窄，系统越只推同质内容，形成"信息茧房"式的自锁。
三层的关系是制衡：过程层的优化不能以健康层的恶化为代价，价值层的归因必须考虑过程层的体验。
二、各指标的定义与口径
CTR= 推荐位点击数 / 推荐位曝光数。口径要点：曝光的定义（进入视口才算曝光，而不是页面加载）、去重方式（同一用户反复刷新是否重复计）。口径不同，同一个算法能差出两位数百分比，实验前后必须一致。
CVR= 推荐带来的转化 / 推荐点击数。归因窗口要明确：点击后 24 小时内成交算推荐贡献，还是 7 天？窗口越长，推荐贡献越大，但也越多噪声。
多样性：常用类目分布熵或 intra-list similarity（推荐列表内部两两相似度的均值）。前者看覆盖面，后者看列表内的同质程度，两者配合使用。
新颖性：推荐结果中用户历史上未接触过物品的占比。注意与"乱推"区分：新颖性高但 CTR 崩盘，说明推成了无关内容。
覆盖度：一段时间内被分发过的物品数 / 物品总数。健康系统应让长尾物品获得合理曝光，覆盖度持续收窄是生态退化的先兆。
三、离线评估与线上评估的分工
离线评估（召回率、NDCG 等排序质量指标）的作用是快速迭代：不需要流量、几小时出结果，适合算法开发期的方向判断。它的局限是离线数据来自历史行为，模型学过的数据再考模型，成绩天然虚高；且离线指标与业务价值的关联并不稳定——离线指标涨了线上不涨是常态。
线上 A/B是效果归因的唯一标准。设计要点：分流单元与推荐体验一致（按用户分流而非按请求）；实验周期覆盖工作日与周末；样本量按基线与预期提升预先估算。Netflix 的推荐架构实践强调离线、近线与在线计算的分工，评估同样遵循这个分层——离线管速度，在线管真相。
两者的配合方式：离线指标用于筛掉明显更差的方向，线上实验用于确认真实收益。跳过离线直接做线上，流量与时间都不够烧；只用离线不上线上，等于没有效果证据。
四、指标组合设计：按场景定制
每个推荐场景的指标组合应反映其业务目标，常用模板如下。
| 场景 | 主指标 | 制衡指标 | 兜底指标 |
|---|---|---|---|
| 详情页看了又看 | CTR、点击后加购率 | 类目多样性 | 主商品转化率不降 |
| 购物车连带 | 连带成交率、客单增量 | 相关性（推荐与购物车内容匹配度） | 结算转化率不降 |
| 首页推荐 | 品类入口 CTR、后续深度 | 新颖性、覆盖度 | 跳出率不升 |
| 消息召回 | 召回打开率、回流留存 | 触达频次上限 | 退订率不升 |
"不降"类指标（主商品转化不降、结算转化不降）常被忽略，却是最重要的一类：推荐位的收益必须以不伤害页面主任务为前提，这需要专门盯住主任务的指标。
五、时间维度与长期效果
多数团队只看天级指标，而推荐系统的真实代价与收益都在更长的时间尺度上。
短期看，激进的相似推荐会推高 CTR；长期看，同质推荐让用户兴趣收窄、行为数据变窄、推荐越来越同质——这是一个渐进的自锁过程，天级指标完全看不到。建议同时保留三档观察窗口：即时（当日 CTR/CVR）、周级（留存与回访）、月级（活跃深度与品类覆盖）。月级指标的恶化常被日级报告掩盖，而它一旦发生，恢复的周期以季度计。
长期效果的归因也建议用对照：对一部分用户长期保持旧版策略作为"污染组"，虽然牺牲部分短期收益，但能持续校准"推荐系统对留存的净贡献"这类无法从单次实验得出的结论。
六、常见评估误区
- 单指标崇拜：只优化 CTR 的推荐系统会系统性偏向标题党与爆款，健康层指标全面恶化。
- 跨场景比指标：首页推荐与购物车推荐的 CTR 差异是场景属性差异，比较毫无意义，必须各自设基线。
- 只信离线指标：离线成绩与线上价值脱节，模型迭代到离线指标新高、线上无感，是常见的心智陷阱。
- 无对照组的长期归因：把大盘波动当成推荐系统的功劳或过错。长期效果必须有留存的对照才能说清。
常见问题
问：CTR 高但 CVR 低，说明什么？
答：通常是"吸引力与价值错位"：推荐内容足够抓眼球（标题、图片刺激），但点进去与用户真实需求不符，或商品本身转化力弱。排查顺序：先看点击后的落地与推荐内容是否一致（错位引流），再比较 CTR 上升期推荐内容的构成变化（是否标题党占比上升），最后检查排序目标是否过度加权了点击类特征。
问：多样性和点击率冲突时怎么办？
答：用配额制而不是排序层硬打架：主排序按相关性输出，多样性在重排层保证下限（如列表内类目数不低于阈值、同类目连续不超过 N 个）。把多样性做成硬约束，CTR 的损失通常远小于预期，而长尾与留存的收益是持续的。关键是把冲突显性化为预算分配，而不是让两个目标在同一个分数里暗斗。
问：离线指标涨了线上不涨，正常吗？
答：正常且常见。离线数据是模型见过的历史，成绩虚高；线上还有位置偏差、新鲜度、场景差异等离线模拟不到的因素。离线指标的正确用法是"筛掉更差的方向"，确认收益必须靠线上 A/B。若长期出现离线涨线上不涨，要怀疑离线评估的数据划分是否存在信息泄漏。
问：推荐系统的效果应该多久评估一次？
答：分频率分层：日级看过程指标（CTR、曝光、点击）用于发现异常；周级做迭代复盘与实验结论；月级看健康层与留存等长期指标。实验结论以完整周为单位（覆盖周末行为差异），避免用单日数据下结论。
问：新颖性指标的参照系是什么？
答：与自身历史比，而不是绝对数值。合理区间取决于业务形态：内容平台的新颖性天然高于电商。实操上跟踪新颖性的趋势更有意义——持续下降说明系统在向历史行为收敛，配合覆盖度一起看：两者同时走低是"信息茧房"化的标准信号，需要主动增加探索配额。
问：怎么评估推荐系统对留存的长期贡献？
答：单次 A/B 测不出留存，因为留存是长期累积效应。可行做法：① 长期对照——对一小部分用户长期保持基线策略，月度对比留存与活跃深度；② 分层观察——高使用推荐功能的用户与低使用用户的留存差，作为相关性证据（非因果）；③ 大版本上线时用足够长的实验窗口（数周到数月）观察留存曲线的分离。三种证据互相印证，才能对长期贡献建立信心。
数据来源
- Netflix TechBlog《System Architectures for Personalization and Recommendation》：离线、近线与在线三层计算的分工，支撑离线快速迭代与线上 A/B 归因的评估分层。
- Nielsen Norman Group《Conversion Rates: How to Measure and Improve》：转化指标须按场景细分并结合长期行为解读的方法论依据。
- Baymard Institute《E-Commerce Site Search》研究专题：检索类体验的效果度量基准，支撑分场景基线设计的参照。
延伸阅读：什么是推荐系统？召回、排序、重排三层架构解析｜推荐位布局设计｜A/B 测试为什么做不出显著结果｜数据驱动决策框架
