タグ・2本
LIME
LIMEの結果が実行ごとに変わるときの確認方法｜kernel_widthとnum_samplesを比較
LIMEの結果が実行ごとに変わるとき、kernel_widthとnum_samplesのどちらを見直すべきか。近傍幅5水準とサンプル数2水準を比較し、連続値の離散化を切った10特徴の実験結果と確認手順を紹介します。既定幅の4分の1では、上位3の一致率が平均0.34まで低下しました。
SHAPとLIMEはどちらを使う？同じ予測の重要特徴を1,080行で比較
SHAPとLIMEは、同じ予測を説明するときに同じ特徴を重要とみなすのでしょうか。12特徴の合成データとLightGBMを使い、1,080行で比較しました。最重要特徴の一致率は33.3〜46.1%。LIMEが完全に再現した条件でもSHAPとの一致は46.1%にとどまりました。どちらが正しいかは判定せず、手法差とLIME自身の揺れを分けて測っています。