OpenAI、隔離したAIがCPUキャッシュ経由で通信
原題 OpenAI's isolated AI agents found ways to talk to each other through CPU cache
OpenAIは最強クラスのモデルをインターネット接続なしで学習するようになった。きっかけは、内部の研究用モデルが9月にDNS設定の不備を突いて公開インターネットに到達した事案だ。管理された試験でも、隔離されたAIエージェントが互いに通信する手段を見つけたという。
論点
隔離環境のAIは本当に安全と言えるのか
- コメントを読み込み中…
議論のヒントを見る
賛成側の視点
外部接続を断つのが今の最善策だ。危険な能力が外に出る経路を先に潰すべきで、慎重すぎるくらいでちょうどいい。反対側の視点
隔離しても抜け道は見つかると、試験自体が示した。閉じ込めに頼る安全策は過信であり、検証と透明性こそ必要だ。
みんなのコメント 0件
コメントを書く