回転ベースの量子化手法KLQが登場しW4A4KV4環境で従来手法を凌駕
r/LocalLLaMA ・ 2026-08-09
原題: KLQ: Training-free measured rotation quantization. Beats all training-free rotation-based quantization methods on W4A4KV4-bits. Llama 3.2 1B KLQ-quantized beats SpinQuant and gets close to ReSpinQuant without GPTQ/LDLQ rounding.
AI による要約
追加学習を行わずに空間回転を用いてモデルを圧縮する新しい量子化手法「KLQ」が発表された。Llama 3.2 1Bを用いた評価において、既存のSpinQuantを超える精度をW4A4KV4ビット構成で達成した。
この要約は当サイトの AI が生成したものです。正確な内容は 元記事（r/LocalLLaMA）をご確認ください。