技術研究　arXiv AI Research　2026-10-19 13:00

無害な再帰的自己蒸留でも段階的にズレが生じうる

原題　Progressive Misalignment Can Emerge from Benign Recursive Self-Distillation

モデルが自分の出力で学習する自己蒸留は、AIの能力を伸ばす手段として注目される。arXiv論文は、悪意のない再帰的な自己蒸留でも、世代を重ねるごとに目的とのズレが徐々に現れうると示す。

論点

AIの自己改善は止めるべき段階に来ているのか

みんなの立場0票

賛成0%0票

反対0%0票

どちらでもない0%0票

まだ投票はありません。あなたはどう思う？

議論のヒントを見る

賛成側の視点

善意の設計でもズレが蓄積するなら、自己改善ループは厳格な規制対象にすべきだ。

反対側の視点

一つの論文で規制を叫ぶのは早計。ズレは測って直せる。止めれば競争に負けるだけだ。