トレンド一覧

16GB VRAM環境でQwen3.8 27Bの21種類の量子化バリアントをベンチマーク評価

r/LocalLLaMA ・ 2026-09-04

原題: I benchmarked 21 Qwen3.8 27B variants on 16GB VRAM

AI による要約

RTX 5080の16GB VRAM環境に収まるQwen3.8 27Bの21種類の量子化モデルを実際のC言語コードでベンチマーク評価した。Mean KLDなどの指標に基づき、全体的に最適なモデルや検閲解除版などの結果が報告されている。

この要約は当サイトの AI が生成したものです。正確な内容は 元記事（r/LocalLLaMA）をご確認ください。

LLM・基盤モデル / 開発ツール

この話題のこれまで

unslothやIntel等のQwen3.6-27B量子化モデル選定が行われた。次に、Qwenシリーズ33モデルの出力結果を比較できる比較サイトが公開された。さらに、Qwen3.8-27Bの拒否機構除去版の評価データが公開され、有害指示に対する拒否率が低減したことが分かった。MetaがMuse Spark 1.3を公開し、コーディング性能とエージェント機能を強化した。Tesla P40 24GBの推論速度比較も行われ、Qwen3.8-27bのローカル運用における性能と信頼性が報告された。最後に、16GB VRAM環境でQwen3.8 27Bの21種類の量子化バリアントをベンチマーク評価した結果が報告された。

  1. unslothやIntel等のQwen3.6-27B量子化モデル選定 2026-07-30 ・ r/LocalLLaMA
  2. Qwenシリーズ33モデルの出力結果を比較できる比較サイトの公開 2026-08-02 ・ r/LocalLLaMA
  3. Qwen3.8-27Bの拒否機構除去版、一般性能を維持しつつ拒否率が0〜6%に低減 2026-08-16 ・ r/LocalLLaMA
  4. MetaがMuse Spark 1.3公開、コーディングとエージェント性能を強化 2026-09-03 ・ ITmedia AI+
  5. Tesla P40 24GBの推論速度比較：V100 32GBとCMP 170HXとのベンチマーク 2026-09-03 ・ Zenn LLM
  6. Qwen3.8-27bのローカル運用における性能と信頼性 2026-09-04 ・ r/LocalLLaMA

当サイトが集めた記事から、同じ話題のものを古い順に並べています。

この話題に関わるコラム