admin管理员组

文章数量:1130349

1. 解释算法背景

1.1 LIME

特点：局部、model-agnostic、instance-wise
方法：使用一个更简单的、围绕特定实例的本地可解释模型来近似复杂的ML模型

  1. 选择要解释的实例
  2. 生成一组相邻样本来干扰实例
  3. 使用复杂ML模型预测获得的扰动样本
  4. 拟合一个模型(例如，线性回归或决策树)对受干扰的样本及其预测
  5. 解释更简单的模型，为原始实例提供解释

目标函数：

1.2 DeepLIFT

特点：使用深度学习
方法：深度学习的递归预测解释方法

1.3 Layer-Wise Relevance Propagation

特点：使用深度学习
方法：找出输入像素x的每个输入像素对特定预测的贡献

f(x)=∑d=1VRd f(x) = \sum_{d=1}^{V} R_d f(x)=d=1

1. 解释算法背景

1.1 LIME

特点：局部、model-agnostic、instance-wise
方法：使用一个更简单的、围绕特定实例的本地可解释模型来近似复杂的ML模型

  1. 选择要解释的实例
  2. 生成一组相邻样本来干扰实例
  3. 使用复杂ML模型预测获得的扰动样本
  4. 拟合一个模型(例如，线性回归或决策树)对受干扰的样本及其预测
  5. 解释更简单的模型，为原始实例提供解释

目标函数：

1.2 DeepLIFT

特点：使用深度学习
方法：深度学习的递归预测解释方法

1.3 Layer-Wise Relevance Propagation

特点：使用深度学习
方法：找出输入像素x的每个输入像素对特定预测的贡献

f(x)=∑d=1VRd f(x) = \sum_{d=1}^{V} R_d f(x)=d=1

本文标签： 模型知识UnifiedApproachModel

版权声明：本文标题：模型解释知识介绍A Unified Approach to Interpreting Model Predictions 内容由热心网友自发贡献，该文观点仅代表作者本人， 转载请联系作者并注明出处：https://it.en369.cn/jiaocheng/1763631120a2949695.html， 本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容，一经查实，本站将立刻删除。