Transformerの中間層にRLの恩恵が集中する現象を7モデルで確認

Zenn LLM ・ 2026-08-11

原題: 1層で全パラメータRLを超える：Transformer中間層の驚くべき集中性

AI による要約

強化学習によるLLM後訓練では、恩恵がTransformerの中間層に極端に集中することが判明した。Qwen3/Qwen2.5の7モデルで検証され、単一層の訓練で全層と同等以上の性能が得られた。

この要約は当サイトの AI が生成したものです。正確な内容は 元記事（Zenn LLM）をご確認ください。