技術研究　arXiv AI Research　2026-10-15 13:00

自己蒸留のスケーリング則、データ密度を検証

原題　Data Density Scaling Laws for Image Self-Distillation

データのユニークなサンプル数を増やすほど性能が上がり、同じデータの反復は効果が逓減するという従来のスケーリング則に対し、画像の自己蒸留でデータ密度の影響を調べた論文がarXivに出た。

論点

データは量より密度が大事なのか

みんなの立場0票

賛成0%0票

反対0%0票

どちらでもない0%0票

まだ投票はありません。あなたはどう思う？

議論のヒントを見る

賛成側の視点

ネット画像は重複だらけ。密度を上げれば少量でも強いモデルになる。

反対側の視点

結局は多様な大量データが最強。密度論は量の不足の言い訳だ。