デフォルト設計とトークン価格設定: LLM推論サービスにおけるデフォルトとカスタマイズ
arXiv cs.AI ・ 2026-08-13
原題: Keep, Customize, or Exit: Default Design and Token Pricing in LLM Reasoning Services
AI による要約
LLMサービスでは、プロバイダーがトークン価格とデフォルトの推論トークン割り当てを選択し、ユーザーはデフォルトを受け入れたり、カスタマイズしたり、または退出したりすることができる。割り当てのサイズが大きくなるにつれて精度が向上する可能性があるが、トークンコストと待ち時間も増加する。スタッケルバーグゲームとしてモデル化し、ユーザーの最適なカスタマイズされた割り当てを閉じた形式で導出する。
この要約は当サイトの AI が生成したものです。正確な内容は 元記事(arXiv cs.AI)をご確認ください。