shap

shap 技能概览

shap 的作用

shap 技能可以帮助你用 SHAP values 解释模型预测结果，让你看清楚哪些输入把预测推高了，哪些输入把预测拉低了。它最适合需要模型可解释性、特征归因，或用于真实分析而不是泛泛“特征重要性”概览的 explainable AI 工作流用户。

这个技能适合什么场景

当你需要回答这些实际问题时，适合使用 shap 技能：为什么会出现这个预测、哪些特征最关键、模型是否表现公平、以及如何向相关方给出可信的解释。它适用于树模型、线性模型、深度学习模型，以及许多黑盒模型。

用户通常最关心什么

大多数安装 shap 的人，最在意的是能否快速走通输出路径：该选哪个 explainer、explainer 需要什么数据、以及哪种图最符合当前问题。这个技能的价值在于它聚焦的是解释工作流，而不只是库的 API。

如何使用 shap 技能

安装并找到核心说明

按照目录里的常规技能安装流程安装 shap 技能，然后先打开 scientific-skills/shap/SKILL.md。如果这个包以后加入了链接上下文，再检查 README.md、AGENTS.md、metadata.json，以及任何 rules/、resources/ 或 references/ 目录；但目前这个 repo 的工作流核心仍集中在 SKILL.md。

把模糊需求改成可执行的提示词

shap 技能在提示词里写清楚模型类型、预测任务、要解释的数据切片和分析目标时，效果最好。比如不要只说“对我的模型用 shap”，而是明确提出：针对二分类器做 SHAP 解释、输出单个预测的 top features、给验证集做全局 summary、以及为选定行生成 waterfall plot。

提供 SHAP 真实需要的输入

高质量的 shap 使用通常依赖背景数据、一个具体的预测行或样本集，以及准确的模型对象或预测函数。你如果只给模型名字而没有数据上下文，输出就会差很多。请补充特征名、预处理细节、类别标签，以及任何已知约束，比如缺失值或类别编码方式。

按正确顺序阅读工作流

先看概览和“何时使用”的指导，再进入 explainer 选择步骤和绘图示例。为了判断质量，要特别注意那些关于 explainer 类型与模型家族匹配的说明，因为选错 explainer 是 SHAP 输出变慢、噪声变大或产生误导的最常见原因。

shap 技能常见问题

shap 比普通提示词更好吗？

通常是的，前提是你需要的是一套可重复的可解释性工作流。普通提示词可以描述 SHAP，但 shap 技能会更结构化地指导你选择合适的 explainer、准备输入，以及正确解读结果。

shap 对新手友好吗？

对基础查看来说是友好的，尤其是特征重要性和单次预测解释。若你想解释交互、比较模型，或排查预处理问题，它就没那么适合新手，因为这些任务高度依赖良好的数据准备。

什么时候不该用 shap？

如果你只需要一个简单的模型分数，或者只想要一个笼统的“为什么会这样”答案，却拿不到模型和数据，就不该用 shap。若你的解释必须在超大规模下极快完成、且无法承受局部解释的额外开销，它也不是最佳选择。

安装 shap 前应该检查什么？

先确认你的环境能运行你想解释的模型，并且你有具代表性的背景数据。对于 shap for Data Analysis 来说，最大的阻碍通常不是库本身，而是不完整的输入上下文。

如何改进 shap 技能

给它更准确的问题切片

最好的 shap 结果来自窄而可验证的请求：一个模型、一个任务、一个数据切片、一个解释目标。如果你要求“所有 SHAP 图”，通常比你明确要求“全局排序用 beeswarm，再给一个高风险预测做 waterfall plot”得到的输出更弱。

补充会改变解释结果的细节

要说明模型家族、目标类型、特征预处理，以及你想要局部还是全局解释。这些细节会影响 explainer 的选择，也会影响 SHAP values 的解读方式。比如树模型和神经网络往往需要不同的配置，而经过编码的特征可能还需要映射回人类可读的特征名称。

注意最常见的失败模式

shap 使用中的主要失败模式，是背景数据不匹配、解释了变换后的特征却没有映射回原始含义，以及为错误的问题选了错误的图。如果第一次结果看起来不对，就把提示词改成更精确的行索引、类别名、预处理流水线，以及你真正想回答的业务问题。

从解释走向决策

拿到第一版输出后，再继续追问下一步解释：比较两个样本、检查交互效应，或者用通俗语言总结最主要的驱动因素。这是把 shap 从可视化工具转成实用分析工作流、用于模型调试和向相关方汇报的最快方式。