技術規制・政策研究　arXiv Computer Vision　2026-10-20 13:00

VLM安全性向けの対照的選好データセット登場

原題　ContraSafe-VL: A Contrastive Safety Preference Dataset for Vision-Language Models

視覚言語モデルが汎用アシスタントとして普及する中、画像と文章の相互作用で決まる安全性を扱う ContraSafe-VL を公開。対照的な選好ペアでマルチモーダルの安全アライメントを狙うデータセットだ。

論点

VLMの安全性はデータセットで担保できるのか

みんなの立場0票

賛成0%0票

反対0%0票

どちらでもない0%0票

まだ投票はありません。あなたはどう思う？

議論のヒントを見る

賛成側の視点

画像と文の組合せ攻撃は専用データでしか潰せない。整備が急務だ。

反対側の視点

既知の例を学ぶだけで未知の攻撃は抜ける。いたちごっこだ。