適応的な敵には統計的な安全保証が効かない
原題 Limits of Statistical Assurance for Embodied and Agentic AI under Adaptive Adversaries
有限回の安全評価では、認証までは正常に振る舞い、その後に作動する敵を排除できない。本研究は身体性AIやツール利用エージェントについて、この統計的保証の限界を理論的に特徴づけた。
論点
エージェントの安全認証は原理的に無理か
- コメントを読み込み中…
議論のヒントを見る
賛成側の視点
テストで潜伏を見抜けない以上、認証は気休め。常時監視と権限制限が必須だ。反対側の視点
完全保証がないのは他分野も同じだ。限界を知った上で運用すれば十分実用になる。
みんなのコメント 件
コメントを書く