技術研究　arXiv AI Security　2026-10-14 13:00

System One モデルへのインターフェース攻撃DICE

原題　DICE: Tilting the Odds through Interface Attackson System One Model

System Oneモデルは型付きの判断を返し、アプリがそれを意思決定に使う。ただ答えは周囲の部品が渡す状態と質問に左右される。DICEはその接点を突いて確率を傾ける攻撃を示す。

論点

AIの判断は入力経路ごと疑うべきか

みんなの立場0票

賛成0%0票

反対0%0票

どちらでもない0%0票

まだ投票はありません。あなたはどう思う？

議論のヒントを見る

賛成側の視点

モデルが無事でも前後の部品を操作されれば結果は歪む。全経路が攻撃面だ。

反対側の視点

それは普通のシステム設計の問題。AI特有の脅威と煽るのは大げさだ。