J-lensを用いたマルチトークン概念の可視化：最初のトークンが鍵に

arXiv cs.CL ・ 2026-08-31

原題: The First Token Is a Clue: Verbalizing Multi-Token Concepts from the J-lens

AI による要約

J-lensはLLMの隠れ状態を語彙トークンのランク付けで解釈するが、マルチトークン概念の表現に課題があった。本研究は、マルチトークン概念の最初のトークンが単一トークンと同等に解釈可能なことを示し、凍結モデルで第2トークンを88.3%の精度で復元する手法を提案する。

この要約は当サイトの AI が生成したものです。正確な内容は元記事（arXiv cs.CL）をご確認ください。