確定トークンを文脈に固定し離散拡散サンプリングを改善
arXiv stat.ML ・ 2026-09-01
原題: From Truncation to Commitment: Persistent Context in Uniform Discrete Diffusion
AI による要約
一様離散拡散モデルにおいて、選択した候補トークンを以降の生成ステップの文脈として固定する「Committed Reveal Sampling（CRS）」が提案された。従来の並列更新では毎ステップ全トークンが修正可能だったが、確信度の高いトークンを固定して入力に戻すことで後続の予測の一致度を高める。追加学習を必要とせず、ノイズ減少時のベイズ誤差の性質に基づき系列全体の整合性を向上させる。
この要約は当サイトの AI が生成したものです。正確な内容は 元記事（arXiv stat.ML）をご確認ください。