エージェントへの間接注入、統一ベンチ登場
原題 INFUSE: A Unified Surface Benchmark for Indirect Prompt Injection in Agentic Systems
LLMエージェントは、シェル操作、コード修正、依存関係の導入、外部サービスとのやり取りまで長い作業をこなすようになった。INFUSEは、その各接点で起こる間接プロンプトインジェクションを統一的に測るベンチマーク。
論点
エージェントに自律実行を任せるのは時期尚早か
- コメントを読み込み中…
議論のヒントを見る
賛成側の視点
攻撃面を測れるようになった今が使い時だ。使わなければ防御も進まない。反対側の視点
間接注入は未解決のままだ。シェルと送金を任せるのは、鍵を拾った相手に渡すのと同じだ。
みんなのコメント 件
コメントを書く