Vision Transformerのトークン剪定を最適化するTask-Adaptive Pruning
arXiv cs.AI ・ 2026-08-11
原題: Putting Registers to Work: Task Registers for Token Pruning in Vision Transformers
AI による要約
Vision Transformerにおいて、画像分類や領域分割といったタスクごとに専用のレジスタートークンを割り振る「Task-Adaptive Pruning（TAP）」が提案された。従来レジスタートークンはタスク非依存のストレージとして使われていたが、TAPでは各タスク特有の空間要求に合わせてパラメータ更新なしで不要なトークンを削減する。これにより、既存モデルのバックボーンを固定したままタスクごとのトークン剪定精度を向上させる。
この要約は当サイトの AI が生成したものです。正確な内容は 元記事（arXiv cs.AI）をご確認ください。