NInferのQwen3.8 27bサポート

r/LocalLLaMA ・ 2026-08-14

原題: NInfer day0 support for Qwen3.8 27b: ~200 tok/s generation, with tons of engine improvments

AI による要約

NInferがQwen3.8 27bをサポートした。200 tok/sの生成が可能である。NInferのエンジンが改善されており、共有ページ化KVキャッシュプールをサポートしている。

この要約は当サイトの AI が生成したものです。正確な内容は元記事（r/LocalLLaMA）をご確認ください。