Prefixローカリティを超えた混合RLロールアウトのスケジューリング
arXiv cs.LG ・ 2026-08-11
原題: Scheduling Mixed RL Rollouts Beyond Prefix Locality
AI による要約
強化学習のポストトレーニングパイプラインでは、複数のドメインやフィードバックパラダイムを組み合わせたロールアウトワークロードが増えてきている。Prefix-awareルーティングは、キャッシュの再利用やロードバランシングによって推論効率を向上させるが、KVキャッシュ容量をめぐる異種ロールアウトセッションの競合を制御できない。MISA-Tというルーティングレイヤーのアドミッションポリシーを提案し、混合ロールアウトサービスを提供する。
この要約は当サイトの AI が生成したものです。正確な内容は 元記事（arXiv cs.LG）をご確認ください。