軽量な対角事前条件付けを用いたMuon最適化手法MALT
arXiv cs.LG ・ 2026-08-05
原題: MALT: Lightweight Curvature-Aware Muon via Diagonal Preconditioning
AI による要約
Muonの最適化手法としてMALT(Muon Augmented by Lightweight Two-sided Preconditioning)を提案した。軽量な対角事前条件付けで曲率異方性に対する感度を低減し、効率的な学習を実現する。
この要約は当サイトの AI が生成したものです。正確な内容は 元記事(arXiv cs.LG)をご確認ください。