トレンド一覧

勾配降下法の「安定性の境界」における中心流の摂動論的導出

arXiv stat.ML ・ 2026-09-01

原題: The Multiple Timescales of Gradient Descent on the Edge of Stability: A Perturbative Derivation of the Central Flow

AI による要約

深層学習における「安定性の境界(Edge of Stability)」での勾配降下法を記述する中心流モデルについて、摂動論に基づく理論的導出が示された。損失関数を分解して特異摂動系として解析することで、最急方向の振動、自己安定化、そして中心流である解多様体上の緩やかな動きという3つの時間スケールを定式化した。これまで経験的・発見的だった中心流の挙動に数学的な基礎付けを与えた。

この要約は当サイトの AI が生成したものです。正確な内容は 元記事(arXiv stat.ML)をご確認ください。

研究・論文

この話題に関わるコラム