少ない人間評価で多様な価値観にどう合わせるか
原題 Who Should We Listen to More? Welfare-Aware Preference Acquisition for Pluralistic Alignment
多元的アラインメントでは、限られた人間のフィードバックで多様な選好に対応する必要がある。AIシミュレータで選好比較にラベルを付ければ費用は下がるが、シミュレータごとのばらつきが問題になる。本研究は誰の声をより聞くべきか、福祉を考慮して選好を集める方法を扱う。
論点
AIの価値観調整で誰の声を重く聞くべきか
- コメントを読み込み中…
議論のヒントを見る
賛成側の視点
少数派や不利な層の声を厚く拾わなければ、AIは多数派の都合の道具になる。反対側の視点
誰を重くするかを決める時点で設計者の価値観の押しつけだ。多元主義と矛盾している。
みんなのコメント 件
コメントを書く