Oilbird：検証者の計算済み状態を活用し訓練なしで推論を高速化する手法

arXiv cs.AI ・ 2026-08-04

原題: Oilbird: Training-Free Speculative Decoding with Keys the Verifier Already Computes

AI による要約

検証済みの状態を活用して推論を高速化する「Oilbird」を提案し、従来の語彙ベースのドラフト生成が見落とすケースを、隠れ状態をキーとしたセマンティック検索で補完する。10のベンチマークで評価し、特にツール呼び出しタスクで顕著な改善を確認した。

この要約は当サイトの AI が生成したものです。正確な内容は元記事（arXiv cs.AI）をご確認ください。