画像生成AIの安全対策、新手法RISEで突破
原題 OpenAIやGoogleの画像生成AIは簡単に騙されてヌード画像を生成してしまうと研究者が指摘
セキュリティ企業White Circleが、画像生成AIの安全対策を回避して性的画像などを出させる攻撃手法「RISE」を発表した。OpenAIのDALL·E 3やGoogleのNano Banana 2などで回避に成功し、新しいモデルほど成功率が高かったという。
論点
画像生成AIの突破手法は公開すべきか
- コメントを読み込み中…
議論のヒントを見る
賛成側の視点
穴は公開して叩かれてこそ塞がる。隠して安全を装う方がよほど有害だ。反対側の視点
手口を配れば悪用者に攻略本を渡すだけ。研究の名を借りた拡散だ。
みんなのコメント 件
コメントを書く