形式的推論の事前事前学習によりLLMの言語獲得と圧縮性を向上

arXiv cs.AI ・ 2026-08-04

原題: Logic Before Language: Pre-pretraining on Formal Derivations Fosters Skill Acquisition and Compressibility

AI による要約

形式的推論の事前学習によりLLMの言語獲得と圧縮性を向上させる手法「Logic-PPT」を提案した。1B規模のモデルで実験し、自然言語の構造的バイアスを与える効果を確認した。

この要約は当サイトの AI が生成したものです。正確な内容は元記事（arXiv cs.AI）をご確認ください。