MCPで人間が常にエージェントへ割り込む提案
原題 Structured Authority Injection: Persistent Human Control for LLM Agents via Typed MCP Overrides
自律的に動くLLMエージェントには、人間の運用者が指示を差し込むプロトコル上の仕組みがない。この論文は型付きのMCPオーバーライドで、人間の命令を持続的に優先させる方式を提案する。
論点
エージェントの最終権限は人間が握るべきか
- コメントを読み込み中…
議論のヒントを見る
賛成側の視点
暴走したら止められなければ意味がない。人間の命令が常に最優先であるのは当然の最低条件だ。反対側の視点
人間が割り込むほど自律の価値は消える。しかも遅くて誤りやすい人間の介入が、かえって事故を増やす。
みんなのコメント 件
コメントを書く