VLMの安全性に反事実近傍のリスク場
原題 Counterfactual Neighborhood Risk Fields: Evidence-Grounded Selective Safety for Vision-Language Models
arXiv論文。視覚言語モデルの安全防御は有害と無害を分離するだけで、リスクスコアの意味や判断根拠を示せないと指摘する。反事実的な近傍に基づく、証拠に根ざした選択的な安全手法を提案している。
論点
AIの安全対策は説明可能であるべきか
- コメントを読み込み中…
議論のヒントを見る
賛成側の視点
根拠のないスコアで拒否されても納得できない。説明は必須だ。反対側の視点
説明を付けても攻撃者に手の内を明かすだけ。精度が先だ。
みんなのコメント 件
コメントを書く