Qwen3.8 27Bモデル、16GB GPU2枚で動作速度が前世代比2.4倍に
Zenn LLM ・ 2026-08-15
原題: Qwen3.8 27Bを16GBのグラボ2枚で動かした。速度はQwen3.6 27Bの2.4倍
AI による要約
Qwen3.8 27Bモデル(Q4_K_M)を16GB GPU2枚で動作させたところ、議事録生成にかかる時間が前世代のQwen3.6 27Bの94.7秒から37.8秒に短縮され、毎秒トークン数は22.4から53.9に向上した。2枚のGPUを活用してもモデルサイズは拡大するが、生成速度は向上しないことも確認された。
この要約は当サイトの AI が生成したものです。正確な内容は 元記事(Zenn LLM)をご確認ください。