分散した記憶汚染攻撃を抗体グラフで防ぐ
原題 GRAD: Graph-Structured Antibody Defense for LLM Agents
LLMエージェントでは、悪意ある情報を複数の操作に分散させる記憶汚染や分解攻撃が起きる。個々の要求だけを見る既存の防御では見逃しやすい。GRADは、グラフ構造の「抗体」で関係をたどって防ぐ。
論点
エージェント防御は要求単位で足りるのか
- コメントを読み込み中…
議論のヒントを見る
賛成側の視点
攻撃は小分けにされる。要求ごとの検査は穴だらけで、関係を追う防御が不可欠だ。反対側の視点
グラフ追跡は重く誤検知も増える。正当な業務まで止めるなら、使えない防御だ。
みんなのコメント 件
コメントを書く