パラメータ変更なしでTransformer層の実行経路を最適化するMACRO
arXiv cs.CL ・ 2026-08-06
原題: MACRO: Markov Chain Routing of Transformer Layers
AI による要約
LLMの層を重み更新なしで動的にルーティングするフレームワーク「MACRO」が提案された。スキップや反復、残差加算といった層の実行パスを、計算予算や演算子の文脈に応じたマルコフ方策としてモデル化する。テスト時の計算コストを抑えつつ学習データからのフィードバックで最適経路を学習し、推論性能を向上させる。
この要約は当サイトの AI が生成したものです。正確な内容は 元記事（arXiv cs.CL）をご確認ください。