AI 信贷评分如何避免对低收入群体产生系统性偏见
AI 信贷评分如何避免对低收入群体产生系统性偏见
一位小时工每月收入并不完全固定，却从未逾期缴房租。模型若把“收入波动”直接解释为高风险，可能连续拒绝这样的申请人。问题不一定出在某个歧视性字段上；邮编、职业、手机使用方式都可能成为收入与居住条件的替身，偏见藏在组合里。
银行上线 AI 评分前，要先定义它解决什么问题：降低欺诈、预测违约，还是缩短审批？不能把这些目标混成一个分数。训练样本也要审查，因为历史“获贷者”数据并不包含那些从未有机会获得贷款的人。只用旧放款记录学习，模型很可能把旧门槛当作自然规律。对缺少信用记录的人，可用小额试贷、人工访谈等方式补充观察，但不能任意采集与偿债无关的私人生活数据。
评估公平不能只比批准率。应分群比较定价、额度、后续违约、被误拒比例和申诉纠错时间，并看差异在经济下行时会不会扩大。若低收入申请人获批更多，却付出明显更高的总成本，公平目标并未完成。对于模型难以给出稳定理由的拒绝，银行应转人工审查，而不是用“综合评分不足”作解释。
企业还需要一条让人能走通的申诉路径。客户应知道哪些事实被使用、可以补交什么材料、由谁重新审查。客服不该把模型结论复述一遍就算答复。审查人员则要看到原始材料、评分版本和推荐理由，能够纠正错误，也要记录为何推翻建议。
公平测试还需要看模型给人的“补救机会”。两个申请人同样被拒，一个被告知可以补最近的工资流水，另一个只收到“暂不符合条件”，即使统计上的拒绝率相同，体验和后续机会也不同。银行可抽取拒贷样本，请独立团队检查理由是否与真实输入一致、是否可更正、改正后能否重新计算。测试集里要包含临时就业、共享住址、现金收入等不典型情形。若模型为了降低风险把这些情形全部视作红灯，最稳妥的做法是转人工调查，而不是换一个更委婉的拒绝模板。
模型的分数阈值由人设定，因此公平问题不能全推给技术部门。若业务部门提高批准门槛，最先被排除的是哪类客户？每次阈值调整都应做分群回测，给出理由和复核日期，而不是把政策改变伪装成模型自然算出的结果。
偏见不会在发布当天固定不变。就业结构、地区经济和平台规则改变后，旧特征可能失效。银行应设定持续监测与暂停条件，独立团队定期抽查边缘案例。真正稳健的信贷系统，并非假装每个人都一样，而是承认收入形成方式不同，再用能被解释和纠正的证据判断风险。
