MCPエージェント、ツール出力経由の注入を防ぐ研究
原題 Agentic AI Defense: Decode-Time Provenance Binding for MCP
Model Context Protocol（MCP）を使うエージェントは、信頼できないツールの出力を通じて間接的なプロンプト注入に弱いとarXivの論文が指摘した。論文はクロスモーダルな信頼の洗浄という攻撃手法を実証したとしている。防御として、デコード時に出所（provenance）を束縛する方式を提案している。
論点
エージェントの安全は、出所の追跡で守れるのか
- コメントを読み込み中…
議論のヒントを見る
賛成側の視点
ツールの出力に命令が紛れ込む以上、出所を機械的に縛るのが根本対策だ。モデルの善意に頼る設計はもう通用しない。反対側の視点
出所の情報自体が偽装されうるし、複雑なツール連携では誤検知で仕事が止まる。運用で破られる防御は安全とは呼べない。
みんなのコメント 0件
コメントを書く