段階的に発動するLLMバックドア攻撃
原題 Cancerous Backdoor Attack: Gradual Activation via Invisible Tokens and A Stage Controller
従来のLLMバックドアは、トリガーで単一の動作を起こすものだった。本論文は、不可視トークンと段階制御器を使い、複数段階で徐々に活性化する「がん性」バックドア攻撃を提案する。
論点
攻撃手法の論文公開はAIの安全に資するか
- コメントを読み込み中…
議論のヒントを見る
賛成側の視点
手口を公開しなければ防御は進まない。攻撃研究こそ最良の防御策だ。反対側の視点
詳細な手法は攻撃者への教科書になる。公開は慎重にすべきだ。
みんなのコメント 件
コメントを書く