エッジLLMに物理サイドチャネル攻撃、出力と入力を抽出
原題 Physical Side-Channel Attacks on Edge LLMs: Extracting Output Tokens and User Prompts
プライバシーを理由にエッジ端末でLLMを動かす動きが広がるが、物理的なサイドチャネル攻撃で出力トークンやユーザーのプロンプトを抜き出せると示す論文がarXivに出た。ローカル実行は安全という前提を揺さぶる。
論点
ローカルLLMはクラウドより安全と言えるのか
- コメントを読み込み中…
議論のヒントを見る
賛成側の視点
物理接近が要る攻撃は限定的。データを外に出さないローカルの方が圧倒的に安全だ。反対側の視点
安全という思い込みこそ最大の穴。端末が盗まれれば、プロンプトも丸見えだ。
みんなのコメント 件
コメントを書く