把人工判断项从自动评分里拆出来,靠的不是调低分数权重,而是改变流程:先让机器只负责可验证的字段,再让人的结论以独立字段写入,最后用例外样本回测。下面用一个假设情境把决策过程走一遍,并说明哪些边界不能照搬。
假设你负责一个内容站,先用爱站关键词挖掘导出一批词,人工挑了三十个,判断标准是“这个词背后的需求是否值得单独写一篇”。这三十个词里,多数是具体的产品问题或操作问题,判断起来很快。现在要扩到三千个,你希望把“是否值得单独写一篇”变成自动评分,按分数排序批量处理。
问题就出在这里:三十个样本里成立的判断规则,规模化后开始出现例外。比如“某类设备怎么选”在样本里都值得写,但扩量后出现大量同义变体,自动评分会把它们全部判为高分,而人工看会认为只该保留一个主词、其余合并。评分没有错,错在它替代了一个本来需要人来做的合并决策。
可自动化的通常是能从词面或已有数据直接读出的属性,例如词长、是否含地域词、是否含品牌词、是否与其他词高度重叠。这些字段适合做筛选和分桶,不适合直接充当最终决策。
需要人工判断的,往往是评分无法从词面推出的东西:
这四类判断的共同点是:结论依赖站内现状和业务上下文,而不是词本身。自动评分看不到你的页面库存,也看不到你的承接能力,所以它给出的分数只能当线索,不能当结论。
一个实际动作是:不要修改自动评分,而是在导出结果里新增两列,一列是人工判定,一列是判定依据。人工判定只填“独立成页 / 合并到某词 / 暂不处理”,判定依据写清是哪条规则或哪个反例触发的。
这样做的结果是:自动评分仍然保留,用于排序和抽查;人工判定成为最终执行依据。下一步的分批处理只读人工判定列,不再回头解释分数。如果后面发现某条规则错了,你能通过判定依据列定位到受影响的词,而不是重新人工过一遍三千个词。
假设你按这个方式处理,发现自动评分前两百名里有六十个被人工判为“合并”。这六十个不需要单独写页面,你的实际产出计划从两百篇降到一百四十篇。这个数字变化本身就是下一步的依据:如果合并比例持续偏高,说明自动评分对同义变体的区分能力不足,需要先补一层去重规则,而不是继续加人工。
规模化后最容易犯的错,是拿“整体看起来还行”来证明评分可靠。整体准确率高,可能只是因为大多数词属于容易判断的常规情况,而真正需要人判的例外恰好被平均掉了。
更稳的做法是专门留一批例外样本:从人工判为“合并”或“暂不处理”的词里抽一部分,检查自动评分当时给了什么分。如果这些词在评分里普遍偏高,说明评分和人工判断在关键区间是背离的,不能直接用评分卡阈值。反之,如果例外词的评分分布和常规词没有明显区别,才说明评分至少没有系统性误导。
这里要提醒一点:抓取量、请求量或某个统计归零,不能单独证明处理正确。它也可能是采集失败、页面未更新或数据延迟造成的。判断人工流程是否有效,要看人工判定与自动评分的分歧是否被持续记录和复查,而不是看某一个数字是否下降。
上面的做法有几个适用条件。第一,人工判定必须有人负责复查,否则新增字段只是把问题往后推。第二,自动评分的字段要能稳定复现,如果同一批词两次导出结果差异很大,先解决数据稳定性,再谈人工介入。第三,例外样本要定期更新,旧样本里的反例不一定覆盖新出现的词型。
如果团队规模很小,没有人力维护判定依据列,那么更现实的选择是缩小自动评分的使用范围:只让它做粗筛,把最终决策限定在少量高价值词上,而不是试图让评分覆盖全部词。两种选择成立的条件不同——有人复查时,可以扩大自动处理范围;没人复查时,就应该主动收窄范围,避免评分替代了本该由人承担的判断。