クロスモデルKV共有：異なるLLM間でKVキャッシュを再利用する手法
arXiv cs.AI ・ 2026-08-31
原題: A Universal Context-Reuse Layer for Cross-Model KV Sharing
AI による要約
LLMサービングでKVキャッシュを異なるモデル間で共有する「クロスモデルKV共有」を提案する。Qwen2.5-7Bから1.5Bへの変換KV状態により、LongBench2の正答率が27.59%から34.48%に向上した。モデル規模・アーキテクチャ・トークナイザーが異なる場合でも機能する汎用性を持つ。
この要約は当サイトの AI が生成したものです。正確な内容は 元記事（arXiv cs.AI）をご確認ください。