画像生成の安全性、学習データ制限に代わる手法を提案
原題 Pristine Models
幅広い無選別データで学習すると高品質な画像が作れる一方、生成すべきでない概念も覚えてしまう。学習データを絞れば安全だが品質が落ちる。この論文は、そのジレンマに取り組む「Pristine Models」を提案する。
論点
画像生成の安全はデータ選別で守るべきか
- コメントを読み込み中…
議論のヒントを見る
賛成側の視点
危険な概念は最初から学習させない。後付けの規制より根本から断つのが確実だ。反対側の視点
絞れば性能が落ち、結局無修正モデルに負ける。後段の制御で守るしかない。
みんなのコメント 件
コメントを書く