説明AIの「忠実性」指標は根本から欠陥と主張
原題 Faithfulness Without Anchors: A Position Paper on the Structural Misalignments of Explainable AI Faithfulness Metrics for Feature Importance
XAIの特徴量重要度に対する忠実性指標には、構造的な不整合があると論じるポジションペーパーがarXivに出た。説明手法が信頼向上の道具として扱われる一方、評価の拠り所が欠けているという問題提起とみられる。
論点
説明可能AIは信頼の根拠になるのか
- コメントを読み込み中…
議論のヒントを見る
賛成側の視点
評価指標が壊れているなら、説明は安心感を売る飾りにすぎない。反対側の視点
完璧でなくても指標は必要だ。批判だけでは現場は前に進まない。
みんなのコメント 件
コメントを書く