技術研究　arXiv AI Research　2026-10-19 13:00

離散拡散LM、文脈を疑う順過程を設計

原題　Trust but Verify: Designing Region-Inhomogeneous Forward Dynamics for Discrete Diffusion

連続拡散では順過程を設計できるが、離散言語拡散は吸収型の破壊が主流で、生成中の文脈を完全に信頼してしまう。領域ごとに性質を変える順過程を設計し、この弱点に対処する。

論点

拡散言語モデルは自己回帰を超えるか

みんなの立場0票

賛成0%0票

反対0%0票

どちらでもない0%0票

まだ投票はありません。あなたはどう思う？

議論のヒントを見る

賛成側の視点

並列生成と修正ができる拡散は本命。設計を詰めれば自己回帰の限界を超える。

反対側の視点

自己回帰は実績と資源で圧倒的。拡散は研究の話題止まりで終わる。