エージェントの記憶汚染を測るMemForm
原題 MemForm: Benchmarking Memory Formation Poisoning in LLM Agents
LLMエージェントの長期記憶は過去の対話から学べる反面、記憶が形成される段階で攻撃者に影響される恐れがある。本論文は記憶形成時の汚染攻撃を評価するベンチマーク「MemForm」を提案する。
論点
エージェントに長期記憶を持たせるべきか
- コメントを読み込み中…
議論のヒントを見る
賛成側の視点
記憶なしのエージェントは使い物にならない。リスクは管理して持たせるしかない。反対側の視点
一度汚染された記憶は静かに居座る。検証手段がない間は持たせるべきではない。
みんなのコメント 件
コメントを書く