SHAP (SHapley Additive exPlanations)は、機械学習モデルの出力を解釈可能にする手法です。SHAPは、ある予測に対して、その予測がどの特徴量に基づいて行われたかを説明することができます。それにより、機械学習モデルの出力がどのようにして生成されたかを理解することができるようになります。
SHAPは、特定の予測に対して、その予測に貢献した特徴量を抽出し、それらの特徴量の貢献度を計算します。貢献度は、Shapley valuesと呼ばれる、ゲーム理論に基づく値です。これにより、それぞれの特徴量がどの程度予測に貢献したかを評価することができます。
SHAPは、LIMEと同様に機械学習モデルの解釈可能性を向上させるために使用され、特にDeep Learningのモデルに対して効果を発揮することが知られています。