トレンド一覧

Hy3 T512をM3 Ultra 512GBで実測

Zenn LLM ・ 2026-08-04

原題: Hy3 T512をM3 Ultra 512GBで実測: 短文1本でピーク242GB、KV8は逆効果だった

AI による要約

Hy3 T512をM3 Ultra 512GBで実測した結果、短文1本でピーク242GBのメモリ使用量が見られた。59K tokensの入力でもneedle retrievalは通りましたが、そこに至る前に一度Macをメモリ不足っぽく固めて再起動しています。--kv-bits 8の効果は8Kで確認された。

この要約は当サイトの AI が生成したものです。正確な内容は 元記事(Zenn LLM)をご確認ください。

LLM・基盤モデル