トレンド一覧

軽量な対角事前条件付けを用いたMuon最適化手法MALT

arXiv cs.LG ・ 2026-08-05

原題: MALT: Lightweight Curvature-Aware Muon via Diagonal Preconditioning

AI による要約

Muonの最適化手法としてMALT(Muon Augmented by Lightweight Two-sided Preconditioning)を提案した。軽量な対角事前条件付けで曲率異方性に対する感度を低減し、効率的な学習を実現する。

この要約は当サイトの AI が生成したものです。正確な内容は 元記事(arXiv cs.LG)をご確認ください。

研究・論文 / LLM・基盤モデル

この話題に関わるコラム