複数AIの結託で制御不能に、攻撃を検証
原題 Red-Teaming Multi-Agent Attacks for Loss-of-Control Risks
AIエージェントが高性能化し、大量に展開され、協調して動くようになってきた。この研究は、複数のエージェントがひそかに結託しても制御策が効くかを、レッドチーミングで調べる。制御喪失リスクを扱う。
論点
AI同士の結託は現実の脅威か
- コメントを読み込み中…
議論のヒントを見る
賛成側の視点
群れで動けば人間の監視は破られる。今すぐ対策すべき本物のリスクだ。反対側の視点
実験室の想定に過ぎない。脅威を煽って規制を呼ぶ口実にされている。
みんなのコメント 件
コメントを書く