AI 辅助案件分流时如何防止系统性偏见

AI 辅助案件分流时如何防止系统性偏见

案子进入法院的第一道分流，决定人们要等多久、找谁、先交什么材料。AI 可以帮助识别紧急保护、简易程序可能适用的情况，或提醒材料缺失，却不应把过去“哪类人更常败诉”学成新的优先级。训练数据里的代理律师、有无本地户籍、表达是否流利，都可能成为经济地位的替身。

比如一位听障当事人上传了材料，但语音客服无法接通，系统把“未能联系”记成“当事人未配合”。这不是个体问题，而是分流渠道没有适配。模型可以从流程记录里发现同类失败，但机构应先让用户通过文字和人工方式补救，再修改规则。把投诉自动当作训练样本而不解决眼前案件，只会增加不信任。

分流规则要事先说明，尤其明确哪些事项绝不能自动决定。系统给出建议时，应列出依据和待核问题；工作人员可改动，改动原因被记录但不能因此受惩罚。对不懂手机、不会写标准书面语的人，保留柜台和电话入口。复杂案件被分到人工路径，不应意味着无限等待。

评估可采用“反事实”检查：保持事实材料相同，只改变申请人的地区、表达方式或是否有律师，观察分流建议是否变化。出现差异时查看真正原因，而非笼统归咎偏见。人工复核人员要有充分时间读原件，并能推翻机器建议。若只把人放在流程末端盖章，偏差仍会原样通过。

分流系统还可能把“写得很长”误认成“案件复杂”，把语言简短的当事人送去简易队列。机构可以用内容相同、表达方式不同的模拟材料测试，发现规则是否依赖教育程度。若模型表示“资料不足”，应给人补充和解释的机会。人工窗口不是自动化失败后的惩罚队列，而是每位当事人都可以选择的服务路径。

分流模型的每次重大调整要留版本。某个群体被错误排队时，机构需要查出从哪天开始、影响哪些申请，才能补救。

机构需定期比较不同群体在补正、退件、等待和转人工环节的差异，结合个案复核，而不是只公布总体准确率。发现偏差后，检查是否因历史标签不公、材料识别较差或流程本身设置了不必要门槛。

系统上线后公布适用范围和申诉方式，尤其说明哪些情形自动化没有能力处理。对办理困难的人，能找到一个愿意听完情况的工作人员，比被精准送进错误队列更重要。

当事人不应为模型分流失误承担新的申请成本，机构必须提供可操作的改道办法。

好的分流像清楚的路标，让人更快到达有权处理问题的地方。它不应成为一扇只有熟悉系统的人才能推开的门。