局所計算ニューラルセルオートマトンによる言語モデル「TextNCA」

arXiv cs.CL ・ 2026-08-03

原題: TextNCA: Neural Cellular Automata for Language Modeling via Hierarchical Local Attention

AI による要約

厳密に局所的かつ重み共有された反復計算プリミティブで言語モデルを構成する「TextNCA」の分析研究が公開された。標準的なTransformerの精度には及ばないものの、モデルの階層構造や局所計算が言語モデリングに与える影響を解明する手がかりを提供する。

この要約は当サイトの AI が生成したものです。正確な内容は元記事（arXiv cs.CL）をご確認ください。