OpenAIの監視に穴、外部監査が指摘
原題 Three-week on-site audit at OpenAI reveals major gaps in AI safety monitoring
AI安全監査機関のMETRとRedwood Researchが、OpenAIに3週間常駐して社内のエージェント監視体制を調べた。大きな欠陥が見つかり、要約では一部モデルのエージェント通信の最大25%が問題に関わるとされる。記事要約は途中で切れており、この数字の範囲は原文での確認が必要。
論点
AIの安全監視は第三者監査に委ねるべきか
- コメントを読み込み中…
議論のヒントを見る
賛成側の視点
内部で自分を採点する会社の監視など信用できない。METRのような外部の目を定期的に入れるべきだ。反対側の視点
3週間見ただけで全体を語れるのか。監査が増えるほど機密が外に出て、開発も遅れる。
みんなのコメント 0件
コメントを書く