機械学習のモデルの「説明性」としては大きく以下の2つ。
大域的説明性:モデル内の重要な説明変数を示す
局所的説明性:推論結果に強く影響した特徴量を示す
この例が注目するのは局所的説明性を与える手法の LIME (Local Interpretable Model-agnostic Explanations)。MATLAB R2020b から Statistics and Machine Learning Toolbox で関数が提供さています。各種パラメータをきちんと調整しないと意味のない結果になる可能性があるということを実感できるデモです。
michio (2021). Example of how LIME works (https://github.com/mathworks/Example-of-how-LIME-works), GitHub. Retrieved .
Find the treasures in MATLAB Central and discover how the community can help you!
Start Hunting!Create scripts with code, output, and formatted text in a single executable document.