深層学習画像圧縮モデル向けの混合精度量子化手法HAMP-LIC
arXiv cs.AI ・ 2026-08-12
原題: HAMP-LIC: Hessian-Aware Mixed-Precision Post-Training Quantization for Learned Image Compression
AI による要約
学習済み画像圧縮（LIC）モデルの計算負荷削減とハードウェア間での不一致を抑える量子化手法「HAMP-LIC」が提案された。ヘッセ行列のトレースから各層の感度を割り出し、4段階の最適化戦略でタスクに適した混合精度量子化を行う。低ビット環境でも画質劣化を防ぎつつ、異種ハードウェア上で高速かつ正確な推論を実行できる。
この要約は当サイトの AI が生成したものです。正確な内容は 元記事（arXiv cs.AI）をご確認ください。