Ling-3.0-flashの量子化ラダーをDGX Sparkで検証

r/LocalLLaMA ・ 2026-08-11

原題: Ling-3.0-flash quant ladder on one DGX Spark: the whole thing sits in a 32 to 40 tok/s band

AI による要約

Ling-3.0-flashの量子化ラダーをDGX Sparkで検証した結果、Q5_K_Mが最速かつニアロスレスで、Q4_K_Mが最小フットプリント、Q6_Kが最高品質を実現した。5.1Bの活性パラメータでデコード速度がほとんど低下しないことが判明した。

この要約は当サイトの AI が生成したものです。正確な内容は 元記事（r/LocalLLaMA）をご確認ください。