マルチモーダル事前学習の物理

arXiv cs.LG ・ 2026-08-05

原題: Towards Physics of Multimodal Pretraining: Knowledge Flow, Modality Synergy, Early Unification, and Recipes

AI による要約

マルチモーダル事前学習の設計原理を解明するため、言語・視覚理解・視覚生成の知識伝達パターンを実験で明らかにした。データの複雑さがモダリティ間の相乗効果を左右し、共有アテンション層が有効なことを示した。

この要約は当サイトの AI が生成したものです。正確な内容は元記事（arXiv cs.LG）をご確認ください。