真のエントロピー均衡がもたらすニューラルネットワークの忘却抑制

arXiv cs.LG ・ 2026-07-31

原題: The Grokked Illusion: True Equilibrium Mitigates Catastrophic Forgetting

AI による要約

パラメータ空間のエントロピーの高さが、モデルの汎化性能だけでなく新しい情報学習時のロバスト性（忘却抑制）にも寄与することを解明した。最適化手法の違いによるモデルの頑健性の差を定量的に評価している。

この要約は当サイトの AI が生成したものです。正確な内容は元記事（arXiv cs.LG）をご確認ください。