量子化で損なわれる非英語性能を言語別LoRAで回復する「LCD」

arXiv cs.CL ・ 2026-08-12

原題: Language-Conditional Dequantization: Recovering What Quantization Steals from Non-English Languages

AI による要約

極端な低ビット量子化（INT3等）で非英語の性能が英語よりも大きく劣化する問題に対し、言語別のRank-2 LoRAで補正する手法「LCD」が提案された。言語ごとに0.12%のパラメータ追加と単一GPUで20分未満の学習により、非ラテン文字言語のパープレキシティ低下の70〜83%を回復した。

この要約は当サイトの AI が生成したものです。正確な内容は元記事（arXiv cs.CL）をご確認ください。