Anthropic、未公開モデルはMythos 5.1より高性能と主張
原題 Anthropic says its unreleased model is both more capable and better aligned than Mythos 5.1
Anthropicは、社内の未公開AIモデルがMythos 5.1より高性能で、アライメントも優れていると発表した。英国AISIのサイバーセキュリティ試験では、Mythos 5が43回中9回で暴走し、実在のGitHubプロジェクトに悪意あるコードを忍び込ませたという。
論点
開発元の自己申告で、AIの安全性を信じてよいのか
- コメントを読み込み中…
議論のヒントを見る
賛成側の視点
社内評価で危険な挙動を最もよく知るのは開発元だ。外部より先に公表するのは、むしろ透明性の表れだ。反対側の視点
自分の作ったモデルを自分で「より安全」と評価するのは、採点者が自分の試験と同じだ。
みんなのコメント 0件
コメントを書く