技術規制・政策研究　arXiv Computer Vision　2026-10-20 13:00

文と画像に意図を分割する画像編集脱獄攻撃

原題　When the Editing Intent Is Split: A Cross-Modal Jailbreak Attack for Large Image Editing Models

大規模画像編集モデルはテキストと画像の両方から編集意図を推定する。本研究は有害な意図を両モダリティに分割して入力し、安全対策をすり抜ける脱獄攻撃を示した。

論点

攻撃手法の論文公開は安全に資するか

みんなの立場0票

賛成0%0票

反対0%0票

どちらでもない0%0票

まだ投票はありません。あなたはどう思う？

議論のヒントを見る

賛成側の視点

穴を公開してこそ塞げる。隠しても攻撃者はとっくに気づいている。

反対側の視点

手順書を配る行為だ。修正前に公開すれば悪用者を利するだけだ。