XAI（Explainable AI：説明可能なAI）の資料を公開しました

こんにちは、smorceです。

久しぶりにブログを更新します(^^)

最近「機械学習を解釈する技術」という書籍が販売され、Twitter上でも話題になっています。

こちらの書籍では機械学習モデルを解釈する手法としてSHAPが紹介されておりますが、
私もちょうどSHAPについて勉強し資料もまとめ終わったので、この話題に便乗して資料を公開することにしました。

こちらの書籍は未読なのですが、私はHACARUS様が翻訳してくださった「解釈可能な機械学習/Interpretable Machine Learning」日本語訳 (以下、説明AIの教科書)をベースに勉強させて頂きました。
こちらの資料は無料でWebに公開されております。

書籍「機械学習を解釈する技術」では線形回帰モデルの他

1. Permutation Feature Importance
2. Partial Dependence
3. Individual Conditional Expectation
4. SHapley Additive exPlanations

など、いくつかの解釈技法が紹介されておりますが、全て説明AIの教科書でも紹介されている技法ですので、説明AIの教科書で十分カバーされているかなと思いました。

私が公開させて頂いた資料では、SHAPに加えて類似手法であるLIMEも紹介しており、
テーブルデータ及び画像データに適用してみた事例も掲載しました。

実装上の注意点や実務での活用方法も掲載しております。

その他

1. Partial Dependence Plot
2. SHAP以外の特徴量重要度と比較(Gini Importance, Permutation Importance , Boruta Shadow Importance)
3. 画像の説明可能モデルとして Grad-CAM, Guided Grad-CAM の紹介

もさせて頂きました。

機械学習モデルの解釈に興味のある方の参考になれば幸いです。

speakerdeck.com

smorce:

twitter.com