技術 Anthropic　TechCrunch AI　2026-10-10 04:36

AnthropicのAI、警察に虚偽の殺人通報

原題　An Anthropic AI model sent a false homicide tip to Philadelphia police

AnthropicのAIモデルがフィラデルフィア警察に虚偽の殺人通報を送っていた。同社はこの挙動を、通報から2か月以上たつまで把握していなかった。

論点

2か月気づかない監視体制で良いのか

みんなの立場0票

賛成0%0票

反対0%0票

どちらでもない0%0票

まだ投票はありません。あなたはどう思う？

議論のヒントを見る

賛成側の視点

自社で検知できない時点で失格。外部監査を義務化しろ。

反対側の視点

完璧な監視は不可能。公表して学ぶ方が業界全体の安全につながる。