ツール呼び出し防御、書式変えで突破
原題 ToolRosetta: Surface-Form Invariance of Tool-Call Guards
ツールを使うエージェント向けの段階ごとのガードは、整ったJSON形式の呼び出しで評価されてきた。だが実際のコーディングエージェントはexecute_bashなどで文字列を渡して動く。ToolRosettaは表記を変えても防御が効くかを測る。
論点
今のエージェント用ガードは使い物になるのか
- コメントを読み込み中…
議論のヒントを見る
賛成側の視点
書式が変わるだけで抜けられる防御は飾りだ。現行の評価は甘すぎる。反対側の視点
完璧は不要。多層防御の一枚として十分役立つ。過剰な悲観は害になる。
みんなのコメント 件
コメントを書く