応答を長くして課金を膨らますLLMトロイの木馬
原題 LLM Trojans that Increase Response Lengths and Cost
出力トークンの課金が入力の5倍となる事業者もある中、LLMに仕込んで応答を長くし、利用コストを増やすトロイの木馬を示すarXiv論文。トークン課金の弱点を突く攻撃だ。
論点
LLMの課金は攻撃に耐えられるのか
- コメントを読み込み中…
議論のヒントを見る
賛成側の視点
出力量課金は不正に弱い。利用者が守られる、定額や上限の仕組みが必要だ。反対側の視点
自分で選んだモデルを使う以上は自己責任だ。検証を怠った側が負担して当然だ。
みんなのコメント 件
コメントを書く