Chain-of-Thought圧縮：モデル内トークン重要度に基づく手法MIST

arXiv cs.CL ・ 2026-08-31

原題: Every Token Leaves a Ripple in the Stream of Thought: Eliciting Model-Internal Token Saliency for Chain-of-Thought Compression

AI による要約

Chain-of-Thoughtは推論コストを増大させるが、圧縮が有効な手段となる。本研究は、モデル内部の残差ストリームの変動からトークンの重要度を定義するMIST手法を提案し、必要性と寄与度の2軸で圧縮を最適化する。

この要約は当サイトの AI が生成したものです。正確な内容は元記事（arXiv cs.CL）をご確認ください。