ベイズ最適化を用いた勾配フリーなLLM事後学習による評価コストの削減
arXiv cs.LG ・ 2026-08-11
原題: Can Bayesian Optimization Efficiently Find a Strong Single Expert in Neural Thickets?
AI による要約
重み空間のランダム線形埋め込み上でベイズ最適化を行い、バックプロパゲーション不要なLLM事後学習手法を提案した。ガウス過程サロゲートモデルを用いて評価を効率的に誘導することで、Qwen2.5-Instructモデルでの実験において候補評価数を5分の1に削減しつつ同等以上の精度を達成した。評価コストを大幅に抑えつつ強力なエキスパートモデルの特定が可能になる。
この要約は当サイトの AI が生成したものです。正確な内容は 元記事（arXiv cs.LG）をご確認ください。