拡散モデルの概念を一つの辞書で捉えるSharedSAE
原題 SharedSAE: a unified sparse dictionary across u-net blocks and denoising time for diffusion models
拡散モデル内の概念表現は、ネットワークの深さや除ノイズの時刻で変化する。従来の疎オートエンコーダはブロック別か時刻別の辞書にとどまっていた。SharedSAEはU-Netのブロックと時刻を横断する単一の辞書を提案する。
論点
画像生成の中身は人間に解釈できるのか
- コメントを読み込み中…
議論のヒントを見る
賛成側の視点
概念を辞書で取り出せれば、生成を制御し安全にもできる。解釈は十分可能だ。反対側の視点
辞書は人間に都合よく切り取った近似にすぎない。内部の理解とは別物だ。
みんなのコメント 件
コメントを書く