微調整で目覚める休眠毒、防御法を提案
原題 Defending Against Dormant Poisoning Attacks Across Language and Multimodal Agents
公開時には隠れ、無害なファインチューニング後に現れる悪意ある挙動を埋め込む攻撃が報告されている。この研究は、そうした休眠型の汚染が言語・マルチモーダルのエージェントでも起きるかを検証し、防御を示す。
論点
他人の公開モデルを微調整して使うのは危険か
- コメントを読み込み中…
議論のヒントを見る
賛成側の視点
出所不明のモデルは時限爆弾だ。業務では使うな。反対側の視点
検証すれば済む話。OSSの恩恵を捨てるほうが損失は大きい。
みんなのコメント 件
コメントを書く