タスク異質性に強い連合MoE-LoRAフレームワーク「FedWeave」

arXiv cs.CL ・ 2026-07-29

原題: FedWeave: Rethinking the Unit of Specialization in Heterogeneous Federated MoE-LoRA

AI による要約

分散データ環境でLLMを協調学習させる連合PEFTにおいて、クライアント間のタスク干渉を防ぐフレームワーク「FedWeave」が提案されました。エキスパートの集約とルーターの最適化を分離する非対称集約を導入することで、モデルの専門性と比較機能を最適化し、不均一な分散データでの学習効率を高めます。

この要約は当サイトの AI が生成したものです。正確な内容は元記事（arXiv cs.CL）をご確認ください。