技術研究　arXiv Computer Vision　2026-10-20 13:00

SegFormer圧縮、注意の深さと実行ハブを分離

原題　Path-Conditioned Attention Mobility: From Depth to Execution Hubs in SegFormer

Transformer圧縮では、残す注意容量と、それを実行する逐次的な深さが混同されがちだと論じる論文。SegFormerを対象に、有用な注意がどの深さで実行されるかを調べ、実行ハブという概念を示す。

論点

Transformer圧縮は深さを削るのが正解か

みんなの立場0票

賛成0%0票

反対0%0票

どちらでもない0%0票

まだ投票はありません。あなたはどう思う？

議論のヒントを見る

賛成側の視点

容量が残れば深さは削れる。実行ハブに集約すれば推論は十分速くなる。

反対側の視点

深さは表現の本質だ。削って精度が保てるのは簡単なベンチだけだ。