リーチ格子展開による2ビットLLM重みのVRAM最適化とデコード

arXiv cs.LG ・ 2026-09-02

原題: Unfolding the Leech Lattice: Fused Multi-Shell Decoding and VRAM Layouts for 2-Bit LLM Weights

AI による要約

リーチ格子ベクトル量子化の2ビットLLM重み向けに、マルチシェルデコーダとVRAMレイアウトを最適化する手法を提案する。4.80ビット/重みでFP16と同等の精度を達成し、3.6ビット以下ではシフト・マスク処理が不要になる。

この要約は当サイトの AI が生成したものです。正確な内容は元記事（arXiv cs.LG）をご確認ください。