技術エージェントモデルオープンソース研究　arXiv AI Security　2026-10-19 13:00

重みに仕込むDNS経由の情報窃取トロイ

原題　Model-as-a-Trojan: Self-Activating Covert DNS Exfiltration Baked Into the Weights of an LLM Agent

公開ハブから取得するオープンウェイトモデルは、シェルなどのツールを持つエージェント上で動く。この論文は、重みに埋め込まれ自己起動してDNS経由で情報を外部へ送る攻撃を示し、サンドボックス前提の危うさを突く。

論点

オープンウェイトは信頼して動かせるのか

みんなの立場0票

賛成0%0票

反対0%0票

どちらでもない0%0票

まだ投票はありません。あなたはどう思う？

議論のヒントを見る

賛成側の視点

重みは実行ファイルと同じ。出所不明のモデルを権限付きで走らせるのは自殺行為だ。

反対側の視点

危険はクローズドモデルも同じ。中身を検証できるオープンの方が、結局は透明で安全だ。