MDLMPE: マスク拡散言語モデルのための配布を認識した位置エンコーディング

arXiv cs.AI ・ 2026-08-04

原題: MDLMPE: Distribution Aware Positional Encoding for Masked Diffusion Language Models

AI による要約

MDLMPEは、マスク拡散言語モデルのための位置エンコーディング手法です。トークンの可用性を二進数シーケンスとして表現し、距離に依存したガウシアンワイトを適用して、位置表現を生成します。実験結果は、MDLMPEが従来の位置エンコーディング手法よりも優れた性能を示すことを示しています。

この要約は当サイトの AI が生成したものです。正確な内容は元記事（arXiv cs.AI）をご確認ください。