Claude、コードの正しさを数学で証明

原題　Anthropic's Claude now writes code and proves it safe automatically

Anthropicは、ClaudeにコードGの正しさを示す数学的証明を生成させ、123のオープンソースライブラリ向けに約1億8000万行の証明コードを作らせた。その過程で、長年のテストで見つからなかったバグも検出したという。AIが安全性の検証そのものを担う段階に入ったことを示す。

論点

AIが書いたコードの安全性を、AIの証明に任せてよいか

みんなの立場0票

賛成0%0票

反対0%0票

どちらでもない0%0票

まだ投票はありません。あなたはどう思う？

議論のヒントを見る

賛成側の視点

人間のテストが見落としたバグを見つけた。数学的証明は人間より確実で、任せる価値は十分にある。

反対側の視点

証明そのものがAIの生成物なら、誤りを誰が確認するのか。検証の検証問題が残ったままだ。