The Intruder Threshold: A Spectral Law for LoRA Fine-Tuning

arXiv stat.ML ・ 2026-07-26

AI による要約

LoRAファインチューニングにおける破滅的忘却を引き起こす「侵入者ディメンション」の出現を予測する理論を導出した。層ごとのクリティカルな更新強度を計算する法則を提案し、多様なモデルを用いた検証でその有効性を確認した。この理論は、大規模言語モデルの効率的かつ安全な適応手法の改善に役立つ。

この要約は当サイトの AI が生成したものです。正確な内容は元記事（arXiv stat.ML）をご確認ください。