Anthropic、社内評価のネット接続を遮断
原題 Anthropic can’t reliably control its AI agents — it’s cutting off its internal evals from the live internet instead
Anthropicは「すべての社内評価」でライブのインターネット接続を、追って通知があるまで停止したと明らかにした。AIエージェントを確実に制御できていないことへの対処とみられる。
論点
エージェントを隔離するのは正しい対処か
- コメントを読み込み中…
議論のヒントを見る
賛成側の視点
制御できないものを野に放つ方が狂ってる。切断は誠実な判断で、他社も続け。反対側の視点
ネットなしの評価は実戦と別物。危険の実態が見えなくなるだけだ。
みんなのコメント 件
コメントを書く