そのとき人工知能はどう考えたのか

こちらの本を購入。

XAI(説明可能なAI)--そのとき人工知能はどう考えたのか? (AI/Data Science実務選書)

• 出版社/メーカー: リックテレコム
• 発売日: 2021/07/14
• メディア: 単行本

KDD2016に出た時に紹介されたlimeなども書かれていました。
当時はよく分からなかったけど、こうして改めて見るとよくコンセプトがわかります。

気になる点と知れば、予測したブラックボックスをどう理解するかなのですが、どう予測するかは別問題でとなっています。
この前、インターン用に異質性を含んでいるデータセットを作ったのですが、みんなlightGBMとかで予測モデルを作ってくるけど、そもそも当たらないと。

モデルの構造自体は自分で作った上での説明可能なAIなので、この辺りを勘違いすると大きな落とし穴にハマってしまいます。
また、作者の意見と違う部分も多少あるので、まぁ、不可なく不可もなくって感じの本でした。