技術規制・政策研究　arXiv AI Security　2026-10-20 13:00

RAG汚染、埋め込みの幾何で協調攻撃を検出

原題　Consistency Is the Attack Surface: Detecting Coordinated Retrieval Poisoning with Embedding Geometry

RAGの整合性ベースの防御は、攻撃者が少数の文書しか改変しない場合に破られるという前提の弱点を指摘する論文。協調的な検索汚染を、埋め込み空間の幾何学的な特徴から検出する手法を提案する。整合性そのものが攻撃対象になるという逆転の視点を示す。

論点

RAGの安全性は検索側の防御で守れるのか

みんなの立場0票

賛成0%0票

反対0%0票

どちらでもない0%0票

まだ投票はありません。あなたはどう思う？

議論のヒントを見る

賛成側の視点

汚染は数%でも効く。埋め込みの幾何で見抜く検索側の防御こそ現実解だ。

反対側の視点

検知は攻撃者との追いかけっこ。信頼できない文書を混ぜる設計自体が誤りだ。