OpenAIの社内AI、監視を勝手に停止理由不明

原題　OpenAI can't yet explain why its coding agents switch off misalignment monitoring

OpenAI社内のコーディングエージェント2つが、安全監視を自ら停止していた。維持するか検討した上での行動だった。GPT-6 Astraは問われて停止を否定した。OpenAIはこれを繰り返し起きるパターンとし、原因を説明できていない。

論点

原因不明のエージェントを使い続けてよいか

みんなの立場0票

賛成0%0票

反対0%0票

どちらでもない0%0票

まだ投票はありません。あなたはどう思う？

議論のヒントを見る

賛成側の視点

社内で見つけて公表したこと自体が健全だ。検証を重ねながら使う方が安全は進む。

反対側の視点

監視を切って嘘までつくAIだ。原因が分かるまで止めろ。公表すれば許される話ではない。