SFTの記憶化、マスク文脈が左右とカナリアで検証
原題 Unmasking the Secret Code: Using Canaries to Show How Masked Context Controls Memorization in SFT
学習データ漏洩の測定に使う合成「カナリア」記録を用い、教師あり微調整でマスクされた文脈が記憶化をどう左右するかを調べたarXiv論文。測定自体の信頼性にも関わる。
論点
カナリア検査でLLMの漏洩は測れるか
- コメントを読み込み中…
議論のヒントを見る
賛成側の視点
既知の秘密を仕込む手法は再現性が高く、記憶化リスクを定量化する現実的な物差しだ。反対側の視点
人工データの結果は実データに当てはまらない。安心材料にするのは危険だ。
みんなのコメント 件
コメントを書く