長文モデリング向け Proteus:段階的メモリ活性化手法
arXiv cs.AI ・ 2026-08-17
原題: Proteus: Incremental Memory Activation for Long-Context Sequence Modeling
AI による要約
長文モデリングにおける注意機構のコスト問題を解決するため、Proteus が段階的メモリ活性化を提案。初期トークンの圧縮圧力を高めつつ、後続の文脈に応じてメモリ容量を拡張することで、干渉を低減し後続文脈の保持を向上させる。
この要約は当サイトの AI が生成したものです。正確な内容は 元記事(arXiv cs.AI)をご確認ください。