攻撃AIと防御AIを競わせコード安全に
原題 Peer Pressure: Execution-Verified Co-Evolution of Attacker and Defender Populations for Code Security
LLMのコードエージェントは監視の薄いままコードを出荷しつつあり、静的な脆弱性データで鍛えた防御は適応する攻撃に遅れる。この研究は攻撃側と防御側を実行検証つきで共進化させて訓練する。
論点
AI同士の対戦訓練がコード安全の決め手か
- コメントを読み込み中…
議論のヒントを見る
賛成側の視点
攻撃者は進化する。防御も対戦で鍛えなければ追いつけない。反対側の視点
攻撃を磨けば悪用の道具が増える。静的な基準と人の審査が先だ。
みんなのコメント 件
コメントを書く