技術研究　arXiv AI Security　2026-10-12 13:00

ラベルだけ書き換える裏口攻撃の監査法

原題　Space Over Statistic, Retraining Over Ranking: Auditing Training Labels Under Label-Only Backdoors

画像に触れずラベルだけ変えるバックドア攻撃FLIPでは、CIFAR-10の3%を反転すると、ResNet-32がトリガー付き元クラス画像の99.7%を攻撃者指定クラスに分類する。論文は、こうした学習ラベルの監査方法を検討する。

論点

学習データの監査はモデル利用者の責任か

みんなの立場0票

賛成0%0票

反対0%0票

どちらでもない0%0票

まだ投票はありません。あなたはどう思う？

議論のヒントを見る

賛成側の視点

データを使う側が検証すべき。出所不明のラベルを信じる方が悪い。

反対側の視点

利用者に全件監査は無理。データ提供者とプラットフォームが責任を負え。