AI×金融知识站
–

kp-027 · 可解释性：SHAP 与监管解释

进阶 模块：治理与伦理 预计 26 分钟 更新 2026-10-02

一句话定义

可解释性回答"模型为什么这样判"：金融场景要求解释满足监管异议、客户沟通与内部信任三种用途，SHAP 以博弈分摊的方式把任意模型的预测分解为特征贡献，本知识点讲清内在解释与事后解释的分工、SHAP 机制与解释的工程落地（原因码）。

为什么重要

在金融，"预测得准"不构成模型可用的充分条件：客户被拒贷有权问为什么（且机构须能自证无歧视性因素，kp-028），监管要能看懂模型逻辑（kp-026 的验证），业务方要在不理解时敢于用。可解释性因此是义务而非美德。SHAP 的重要性在于它把"事后解释"从各家算法不一的启发式（LIME 等）统一到有理论根基的公理化框架上，成为信用风控领域事实标准；但把 SHAP 值直接当"因果解释"也是最常见的误用——理解它"解释了什么、没解释什么"，是用好它的前提。

前置知识

kp-012（评分卡的解释传统——WOE×系数是最早的"内置解释"）。

直观类比

解释模型预测像解释一道菜的口味来自哪里：内在可解释模型像配料表透明的简餐（线性模型——每个成分贡献直接可读）；复杂模型像一锅浓汤，SHAP 是一位公正的会计，把"这口鲜味"按公平原则分摊回每种原料（特征贡献分解）。注意：会计只回答"各原料贡献了多少鲜味"，不回答"去掉生姜这道菜会不会更好吃"——后者是因果问题，会计不背锅。

核心概念

  • 两类解释：内在可解释（intrinsically interpretable）——模型结构本身可读：线性模型系数、评分卡的 WOE×系数、决策树路径；事后解释（post-hoc）——对黑盒模型输出做归因：SHAP、LIME、PDP。金融监管语境常偏爱内在解释（这也是评分卡长盛的原因之一，kp-012），复杂模型须配事后解释。
  • Shapley 值：合作博弈论的公平分摊解——某特征的贡献 = 它在所有可能加入顺序中的平均边际贡献；满足三公理（有效性：贡献加总等于预测与基准之差；对称性；虚拟性：无贡献特征分零）。
  • SHAP：以 Shapley 值为核的模型无关解释框架，对树模型有高效精确算法（TreeSHAP），对任意模型可用采样近似；产出特征级贡献（正/负、方向、大小）与全局重要性排序。
  • 解释的三种消费场景：客户异议（拒贷原因码——把贡献最大的负向特征翻译为可读文案）、监管验证（模型逻辑与敏感特征审查）、内部信任（分析师与业务方理解模型行为）。
  • 原因码（reason codes）：拒贷解释的工程形态——按 SHAP 贡献排序取 Top-n 负向特征，映射到预置的人话模板（"近 12 个月征信查询次数较多"）；需合规审核文案且不得泄露评分卡技术细节。
  • 解释的局限：事后解释是归因而非因果（SHAP 值大≠改变该特征会改变结果）；存在被操纵风险（扰动模型使敏感因素的影响转移给代理特征）；相关性特征间的贡献分摊有解释弹性。

原理与机制

Shapley 值的机制：设想特征们"排队加入预测团队"，每加入一个特征预测值发生一次变化（边际贡献），一个特征在所有排队顺序下的平均边际贡献即其 Shapley 值——穷举所有顺序保证了公平性公理，代价是指数级计算，SHAP 的工程贡献是把树模型的计算降到多项式级。为什么金融偏好"内在解释+事后解释"双层：内在解释（评分卡）在监管问答中直接可读，复杂模型（梯度提升、深度）精度高但须叠加 SHAP 层满足解释义务——行业稳态是"简单模型做主力+复杂模型做挑战者"时，解释体系天然分层。为什么 SHAP 不是因果：它度量的是"给定模型与数据分布，该特征对这次预测偏离基准的贡献"，改变特征后模型在分布上的响应（因果效应）是另一个问题；把 SHAP 值当因果写进对客文案（"如果你降低查询次数将提分 X"）会造成误导甚至合规风险——文案须经因果措辞审查。

公式或模型

Shapley 值: φi = Σ_{S⊆F\{i}} [ |S|!(|F|−|S|−1)! / |F|! ]
× ( v(S∪{i}) − v(S) )
v(S) = 只用特征集 S 时的模型预测
有效性公理: Σφi = f(x) − E[f(X)] (贡献加总=预测偏离基准的量)

图示

基准预测 E[f] = 660 分
  征信查询频繁   −28 分  ██████
  信用卡使用率高 −15 分  ███
  收入稳定       +12 分  ██
  历史还款良好   +20 分  ████
  ────────────────────────
  该客户预测 = 649 分
原因码生成: 取负向 Top-2 → 模板化文案 → 合规审核
局限提示: SHAP 归因 ≠ 因果效应 · 文案禁用因果措辞

实例或案例

拒贷解释的落地链路（教学化描述）：申请人被评分卡拒绝，系统计算 SHAP 贡献：负向 Top-2 为"近 12 个月征信查询 14 次""信用卡使用率 92%"；原因码引擎把特征映射为审核过的文案模板输出给前端，同时留痕存证 SHAP 值与模型版本。合规要点有三：文案不出现"如果你减少查询就能通过"类因果承诺；当负向贡献集中在可能构成代理变量的特征（如消费地址类型）时，触发公平性复核（kp-028）；每次模型重训后原因码模板与贡献分布重新回归校验。同一条解释链，同时服务了客户异议、内部复核与监管抽查三类消费者——这正是"解释即工程"的含义。

常见误区

  • 误区一：SHAP 值=因果效应。 SHAP 是对单次预测的归因分摊，改变特征值的结果由数据生成过程决定；因果结论需专门设计（如随机对照或因果推断方法），不可由 SHAP 直接得出。
  • 误区二：可解释=客户能看懂=合规达标。 三者是递进关系：技术解释（SHAP）→ 业务解释（原因码文案）→ 合规解释（无歧视自证），缺任何一层都会在实际异议中失守。
  • 误区三：事后解释可以完全替代内在解释。 事后解释依赖模型与数据的稳定性，且可被操纵；高风险决策场景（信贷核心审批）监管与内控仍偏好内在可解释模型承担主力。

自测题

  1. 内在解释与事后解释的区别？金融为何偏好双层结构？

答案要点：模型结构可读 vs 输出后归因；简单模型可读性满足监管、复杂模型精度需叠加 SHAP 补义务。

  1. 写出 Shapley 值的直觉定义与其满足的公理之一。

答案要点：所有加入顺序下边际贡献的平均；有效性（贡献加总等于预测与基准之差）。

  1. 原因码文案为什么禁用因果措辞？

答案要点：SHAP 归因非因果，因果承诺构成误导且有合规风险；文案需措辞审查。

公式或模型

见上节「公式或模型」：Shapley 值定义与有效性公理。

与其他知识点的关系

kp-012 的 WOE×系数是内在解释的原型；kp-028 用解释链路触发公平性复核；kp-026 把解释材料纳入模型验证文档；kp-017 的投顾推荐解释与本章共用"技术→业务→合规"三层解释框架。

延伸阅读

  • Lundberg & Lee（2017）："A Unified Approach to Interpreting Model Predictions"——SHAP 原论文。
  • Molnar《Interpretable Machine Learning》：可解释性方法的开源体系教材。