从人工判例到规则进化：如何避免在线自学习失控

规则运行后会产生大量人工反馈，但“放行”不一定表示规则错误：可能是制度例外、授权例外、数据质量问题，也可能只是业务人员忽略了风险。如果把所有放行样本都当成负例，在线学习会迅速把规则推向宽松。

规则进化首先是反馈治理，然后才是模型问题。

建立统一判例

每次人工终局至少需要记录机器结果、事实判断、处置决定、原因码、证据范围、规则版本和复核层级。尤其要把“是否违规”与“是否允许继续”分开。

高影响样本经过二次复核后才能成为金标。撤销、未终局、重复和权限不足的反馈不应进入分析集。

形成四象限

把机器判断与人工终局组合成真阳性、疑似误报、漏报和真阴性。真阴性往往不可见，因此还需要随机抽检和风险分层抽样，否则系统只会看到命中的记录。

分析应按组织、场景、规则版本和数据质量分群，避免总体指标改善掩盖局部恶化。

先生成假设，不生成覆盖配置

模型适合归纳案例簇、解释共同特征并提出受控差异，例如增加一个例外条件、调整时间窗口或补充字段关系。建议应包含支持案例、反例、假设与影响范围。

随后由确定性编译器生成候选版本，而不是让模型覆盖整份规则配置。

回放、影子与观察

候选版本先在固定评测集和近期数据上回放，输出新增命中、取消命中和结果不变的样本。通过门禁后进入影子运行，不影响正式结果；观察期满足指标后再灰度或发布。

高风险变更——扩大刚性阻断、放宽金额阈值、修改关键字段映射、扩大例外——至少需要双人审批。异常时系统可以建议回滚，但不应默认自动执行高影响回滚。

一条可审计的发布节奏

1. 固定候选与评测集。 锁定候选版本、规则依赖和样本边界，避免回放期间输入继续漂移。
2. 离线回放。 比较新增命中、取消命中和不变样本，把差异落到可复核的案例清单。
3. 影子观察。 让候选版本读取真实流量但不影响正式结果，持续观察分群指标。
4. 审批与灰度。 对影响范围、例外变化和回滚条件完成签署，再逐步扩大生效范围。
5. 固化与复盘。 保存版本、证据、审批和观察结果，让下一轮改进能够复现这一轮决策。

进化的边界

规则进化不是追求变化速度，而是在证据充分时缩短“发现问题—验证假设—发布新版本”的周期。长期目标是让改进更可解释、更可回放，而不是让生产规则变成无法复现的模型状态。