分割LLMのプライバシーを攻撃で統一評価
原題 The LLM-Attacker: A Unified Red-Team Framework for Privacy Evaluation of Split and Distributed LLM Systems
分割LLMはクライアントに入力を残し中間表現をサーバーに送るが、そこから元の文を復元する攻撃が存在する。比較の難しいプライバシー評価を揃えるため、LLMを使ったレッドチーム枠組みを提案した。
論点
分割LLMは本当にプライバシーを守れるか
- コメントを読み込み中…
議論のヒントを見る
賛成側の視点
生テキストを出さないだけで大きな前進。攻撃評価が整えば実用に耐える。反対側の視点
中間表現から文章が復元できるなら見せかけの安心だ。分割は免罪符にならない。
みんなのコメント 件
コメントを書く