1層トランスフォーマーが多クラス1-NNを文脈内で学習することを証明

arXiv stat.ML ・ 2026-09-01

原題: One-Layer Transformer Provably Learns Multiclass One-Nearest Neighbor in Context

AI による要約

1層トランスフォーマーが多クラス1-NN分類器と等価であることを証明する。シンプレックス符号化を用いて、argmax分類ヘッドを持つ1層トランスフォーマーが多クラス設定で1-NNと同一の振る舞いをすることを示し、従来の非標準な丸め込み手法に依存しない理論を確立した。

この要約は当サイトの AI が生成したものです。正確な内容は元記事（arXiv stat.ML）をご確認ください。