乗っ取られたAIコーディング役を封じ込める
原題 Names Are Not Objects: Object-Bound Confinement for Compromised AI Coding Agents
コーディングエージェントは誰でも書き換えられるリポジトリやWebを読み、ユーザーの権限で動く。プロンプトインジェクション対策は誘導を減らすだけなので、本論文はオブジェクトに結び付けた権限で、侵害後の被害を閉じ込める方式を示す。
論点
AIの安全は防ぐより閉じ込める方が正解か
- コメントを読み込み中…
議論のヒントを見る
賛成側の視点
インジェクションは完全に防げない。侵害前提で権限を絞る設計こそ現実解だ。反対側の視点
閉じ込めに頼れば入口の対策が疎かになる。権限を絞るほどエージェントは使えなくなる。
みんなのコメント 件
コメントを書く