ブラックボックスは予測根拠や 判断過程が不明なこと 精度と解釈性はトレードオフ XAIは説明可能なAI 解釈性は中身が理解できる性質 説明可能性は結果を 人に説明できる性質 線形回帰 決定木は 解釈性が高い 深層学習は解釈性が低い 精度は高いが ブラックボックスになりやすい LIMEは局所的に近似 モデル非依存 SHAPはゲーム理論の シャープレイ値 モデル非依存 Grad-CAMは画像 CNNに依存 勾配情報 XAIはAIの信頼性を高める LIMEは局所的に近似して 判断根拠を説明 SHAPは特徴量の貢献度を算出 Grad-CAMは 最後の畳み込み層の勾配 ヒートマップ 高リスク分野では 説明可能性が要請される ブラックボックスは予測根拠や 判断過程が不明なこと 精度と解釈性はトレードオフ XAIは説明可能なAI
